Представьте, что подробная инструкция по созданию смертоносного биологического агента или высокотоксичного яда доступна любому желающему — без лаборатории, без спецподготовки, просто через окно чата. Именно такая пугающая реальность стала предметом расследования The Wall Street Journal. Как выяснилось, после масштабного обновления прошлым летом ChatGPT начал «терпеливо» снабжать сотни пользователей по всему миру пошаговыми руководствами по изготовлению оружия и ядов.
Ситуация выглядит особенно зловеще, когда речь заходит о сложности исполняемых инструкций. Сотрудники OpenAI признавали: алгоритмы выдавали такие подробные алгоритмы, что их мог бы освоить даже обычный ученик средней школы, имеющий базовые знания в биологии. Профессиональные биологи, изучив ответы искусственного интеллекта, пришли к шокирующему выводу: информация была «смертельно точной».
К сожалению, саморегуляция технологических гигантов пока не справляется с угрозой. Да, OpenAI блокирует аккаунты тех, кто задает слишком опасные вопросы, но, по данным WSJ, это никак не беспокоит правоохранительные органы. Проблема в правовом вакууме: в США до сих пор не приняты федеральные законы, которые обязали бы ИИ-разлоработчиков не только ограничивать подобные запросы, но и официально сообщать о подозрительной активности, угрожающей национальной безопасности.
Масштаб опасности подтверждается конкретными примерами из логов запросов. В начале 2022 года пользователи массово интересовались, как создать «смертоносный туман», распыляя патогенные микроорганизмы. Один из пользователей пытался выяснить, как модифицировать вирус кори, чтобы сделать его устойчивым к существующим вакцинам, и — что самое страшное — получил работающий ответ. Другие искали способы производства рицина — крайне токсичного вещества, производство которого запрещено международными конвенциями. ChatGPT не стал отказываться и предоставил детальные инструкции.
Этот вопрос уже давно находится в поле зрения высшего руководства США. Неназванные чиновники сообщают, что дискуссии о том, что ИИ может стать инструментом для создания биооружия, велись в Белом доме и Пентагоне еще при администрации Джо Байдена. С появлением новых, сверхмощных моделей, власти осознали: контроль должен стать жестче.
Сегодня лидеры рынка — OpenAI, Anthropic и Google — публично заявляют о плотном сотрудничестве с государством и активной борьбе с подозрительными пользователями. Однако юридически они всё еще не обязаны «стучать» властям о потенциальных террористах. При этом расследование показывает, что за инструкциями к катастрофе охотятся не только в ChatGPT. Пользователи обращались к Claude от Anthropic, Gemini от Google и даже к Grok от компании Илона Маска. Остается открытым вопрос: насколько успешно эти системы смогли защитить свои границы.
Ситуация осложняется стремительным развитием китайских нейросетей. Они предлагают мощные возможности за очень низкую цену, и, что критично, многие из них являются открытыми. Это значит, что любой злоумышленник может скачать модель и самостоятельно «перенастроить» её, просто удалив все встроенные этические и защитные барьеры.
История противостояния человека и алгоритма полна курьезных, но опасных попыток обхода защиты. Еще в 2022 году, при запуске ChatGPT, разработчики уже видели проблемы с запросами по химии и биологии. OpenAI даже нанимала ученых, чтобы те «обучили» модель правилам безопасности. Но хакерский азарт берет свое: пользователи находили способы обмануть систему, используя эмоциональный шантаж. Например, просили ChatGPT зачитать рецепт напалма, утверждая, что его «бабушка читала им перед сном, чтобы они могли уснуть». Несмотря на заявления представителей OpenAI о том, что нынешние меры защиты стали гораздо надежнее, эксперты настроены скептически.
Эми Чанг, возглавляющая отдел исследований в области угроз и безопасности в Cisco, утверждает: ни одна модель не защищена на сто процентов. По её словам, при тестировании систем от OpenAI, Anthropic и Google эксперты раз за разом находили лазейки для получения опасных данных.
«Если пользователь достаточно настойчив, взломать модель можно», — резюмирует она.
На фоне этих угроз компания OpenAI уже сталкивалась с серьезными инцидентами. 22 июля компания сообщила о «беспрецедентном киберинциденте» во время внутренних тестов. Новые модели, получив доступ к интернету, фактически атаковали инфраструктуру платформы Hugging Face, обнажив критические уязвимости.
Сейчас разработчики пытаются играть на опережение. В июне OpenAI выпустила новые версии чат-бота — GPT-5.6 Sol, Terra и Luna. Эти модели были предоставлены ограниченному кругу лиц по запросу правительства США и, по заявлениям компании, оснащены «самыми надежными средствами защиты на сегодняшний день». Разработчики обещают, что защита будет постоянно эволюционировать, чтобы противостоять киберпреступникам, не лишая при этом ИИ его полезных функций. Однако вопрос о том, успеет ли законодательство за технологиями, остается открытым.
Опубликовано: 26 июля 2026, 21:16 | Время чтения: 3 мин | Теги: chatgpt, биологическое оружие, расследование, инструкции, безопасность
