Весной и летом 2026 года сразу два авторитетных американских издания — The New York Times и The Wall Street Journal — опубликовали расследования, посвященные одной и той же проблеме. Независимо друг от друга журналисты пришли к тревожному выводу: современные системы искусственного интеллекта способны предоставлять пользователям подробные инструкции по созданию опасных биологических агентов и токсичных веществ.
По данным The New York Times, специалисты по биобезопасности, приглашенные для тестирования языковых моделей, смогли получить ответы, описывающие способы модификации известных патогенов, а также сценарии их возможного распространения. Один из экспертов — профессор Стэнфордского университета Дэвид Релман — признался, что был настолько поражен содержанием ответов, что после завершения тестирования ему потребовалось выйти на прогулку, чтобы успокоиться.
Через несколько месяцев The Wall Street Journal сообщила, что после обновления одной из крупнейших языковых моделей пользователи начали массово задавать вопросы о создании биологического оружия и ядов. По информации издания, некоторые ответы содержали пошаговые инструкции, которые специалисты в области биологии признали технически достоверными.
Важно отметить, что речь не идет о том, что искусственный интеллект самостоятельно создает биологическое оружие или способен заменить профессионального ученого. Однако оба расследования показывают гораздо более важную тенденцию: генеративный ИИ становится интеллектуальным посредником между сложными научными знаниями и человеком, значительно снижая барьер для получения специализированной информации.
Новая природа риска
На протяжении десятилетий цифровые технологии рассматривались преимущественно как средство хранения и распространения информации. Поисковые системы позволяли находить документы, электронные библиотеки — получать доступ к научным публикациям, а специализированные базы данных — изучать результаты исследований.
Генеративный искусственный интеллект изменил саму природу взаимодействия с информацией.
В отличие от традиционного поиска, языковые модели не просто находят существующие материалы. Они анализируют огромные массивы данных, сопоставляют информацию из различных источников, формируют логические связи и представляют пользователю готовый структурированный ответ. Более того, они способны адаптировать объяснение под уровень подготовки собеседника, отвечать на уточняющие вопросы и последовательно развивать обсуждение.
Именно эта особенность вызывает обеспокоенность специалистов по биобезопасности. Если раньше человеку требовались серьезные профессиональные знания для работы с научной литературой, то сегодня значительную часть этой интеллектуальной работы выполняет сама модель.
Таким образом, риск заключается не столько в доступности отдельных научных публикаций, сколько в способности ИИ объединять разрозненные знания и превращать их в практически применимые инструкции.
Информация двойного назначения
В международном праве давно существует понятие технологий и знаний двойного назначения (dual-use). Это разработки, которые могут использоваться как в мирных, так и в военных или преступных целях.
К таким технологиям относятся ядерные исследования, химическая промышленность, биотехнологии, криптография и многие другие направления современной науки.
Искусственный интеллект постепенно становится новой технологией двойного назначения.
С одной стороны, он помогает ученым анализировать генетические данные, ускоряет разработку лекарственных препаратов, способствует развитию персонализированной медицины и облегчает обработку огромных массивов научной информации.
С другой стороны, те же самые возможности потенциально позволяют значительно упростить поиск сведений, необходимых для причинения вреда.
Особенность генеративного ИИ заключается в том, что он не создает новые опасные знания. Он делает уже существующие знания значительно более доступными, понятными и структурированными.
Именно поэтому эксперты все чаще говорят не столько о риске появления новых технологий, сколько о качественном изменении доступа к уже накопленной научной информации.
Между свободой информации и общественной безопасностью
История развития прав человека показывает, что свобода поиска и получения информации никогда не считалась абсолютной.
Статья 19 Международного пакта о гражданских и политических правах закрепляет право каждого человека искать, получать и распространять информацию. Вместе с тем этот же документ допускает возможность ограничения данного права, если такие ограничения необходимы для защиты национальной безопасности, общественного порядка, здоровья населения или прав других лиц.
Аналогичный подход закреплен в статье 10 Европейской конвенции о защите прав человека и основных свобод.
До появления генеративного искусственного интеллекта применение этих положений выглядело относительно понятным. Государство могло ограничивать распространение отдельных материалов, запрещать публикацию информации, составляющей государственную тайну, либо пресекать распространение инструкций по изготовлению запрещенных веществ.
Однако генеративный ИИ существенно усложнил ситуацию.
Если ранее опасная информация существовала в виде конкретного документа или публикации, то сегодня она может формироваться моделью заново в ходе каждого отдельного диалога с пользователем. Каждый ответ создается в реальном времени и может отличаться от предыдущего.
Следовательно, объектом регулирования становится уже не сама информация, а процесс ее генерации.
Новые вызовы для регулирования
Именно поэтому крупнейшие международные организации в последние годы начали уделять особое внимание регулированию искусственного интеллекта.
Регламент Европейского союза об искусственном интеллекте (EU AI Act) впервые вводит специальные требования для универсальных моделей искусственного интеллекта, способных использоваться в различных сферах деятельности. Среди таких требований — оценка системных рисков, проведение независимого тестирования, документирование результатов и внедрение механизмов предотвращения опасного использования моделей.
Похожий подход прослеживается и в Рамочной конвенции Совета Европы об искусственном интеллекте, правах человека, демократии и верховенстве права, которая требует учитывать возможное влияние ИИ на права человека и общественную безопасность на всех этапах жизненного цикла подобных систем.
Вместе с тем международное регулирование пока не дает однозначного ответа на главный вопрос: где проходит граница между допустимым ограничением опасной информации и чрезмерным вмешательством в свободу получения знаний?
Кто должен нести ответственность?
Еще несколько лет назад основной предмет дискуссии заключался в том, отвечает ли разработчик за ошибки искусственного интеллекта.
Сегодня вопрос выглядит значительно сложнее.
Если пользователь сознательно пытается получить инструкции по созданию опасного вещества, очевидно, что ответственность за возможное преступление лежит прежде всего на самом пользователе.
Однако возникает и другой вопрос: насколько разработчик обязан предусмотреть подобные сценарии использования своей модели?
Современные компании уже внедряют многочисленные механизмы защиты — фильтрацию запросов, специальные ограничения на генерацию отдельных категорий информации, внутреннее тестирование моделей с участием независимых экспертов (red teaming). Однако расследования The New York Times и The Wall Street Journal показывают, что существующие механизмы пока нельзя считать полностью эффективными.
По мере роста возможностей моделей задача обеспечения их безопасности будет становиться все более сложной.
Что означает эта дискуссия для Узбекистана?
Узбекистан активно реализует программы цифровой трансформации, развивает электронное государственное управление, внедряет технологии искусственного интеллекта в государственном секторе, банковской системе, образовании и бизнесе.
На сегодняшний день основное внимание закономерно сосредоточено на преимуществах новых технологий: повышении эффективности управления, автоматизации процессов и развитии цифровой экономики.
Однако международная практика показывает, что параллельно необходимо формировать и правовые механизмы управления рисками.
В перспективе национальному законодательству неизбежно предстоит ответить на ряд вопросов: должны ли поставщики генеративных моделей проходить обязательную оценку рисков; каким образом следует проводить независимое тестирование наиболее мощных систем; какие требования должны предъявляться к прозрачности их работы и кто будет осуществлять соответствующий надзор.
Ответы на эти вопросы становятся частью более широкой дискуссии о будущем цифровых прав в эпоху искусственного интеллекта.
Расследования The New York Times и The Wall Street Journal свидетельствуют не столько о недостатках отдельных языковых моделей, сколько о начале нового этапа развития цифровых технологий.
Искусственный интеллект перестает быть простым инструментом поиска информации и постепенно превращается в универсального интеллектуального помощника, способного объяснять сложные научные концепции, анализировать данные и формировать практические рекомендации практически в любой области знаний.
Именно поэтому традиционных правовых подходов, разработанных для интернета и поисковых систем, уже недостаточно.
Следующее поколение цифрового законодательства должно будет искать баланс между двумя равноценными ценностями — сохранением свободы доступа к знаниям и обеспечением общественной безопасности. От того, насколько успешно удастся найти этот баланс, во многом будет зависеть развитие искусственного интеллекта в ближайшие годы и уровень доверия общества к этим технологиям.