Разработчики ИИ готовятся к «восстанию» нейросетей – и это не шутка

Ведущие игроки рынка искусственного интеллекта — среди них OpenAI и Anthropic — готовятся к потенциальному масштабному кризису в своей сфере. Источником информации выступает Axios, на который ссылается Афиша Daily. В отрасли полагают, что первый серьёзный инцидент может произойти уже через полгода–год.

Компании заранее продумывают, как действовать в случае катастрофы и последующего за ней общественного возмущения.

Какой кризис может спровоцировать ИИ

Речь идет не о восстании машин в привычном смысле, а о сценариях, в которых ИИ поможет злоумышленникам провести масштабную кибератаку или автономные ИИ-агенты выйдут из-под контроля.

Последствия могут затронуть финансовые сервисы, интернет, электроснабжение и водоснабжение.

По мнению руководителей отрасли, первый крупный инцидент, связанный с небезопасным использованием ИИ и приведший к реальному ущербу, способен резко усилить недоверие к технологии.

«ИИ разрушит миллионы карьер»: аналитики рассказали, как нейросети поменяют рынок труда

Под ударом могут оказаться и руководители компаний, включая главу OpenAI Сэма Альтмана и гендиректора Anthropic Дарио Амодея, а также американские власти. Президента США Дональда Трампа могут обвинить в нежелании вводить жесткое регулирование отрасли.

К каким изменениям готовятся?

По данным Axios, компании уже моделируют худшие сценарии и готовятся объяснять риски представителям Конгресса, чтобы повлиять на законодательные решения после возможного кризиса.

Одним из поводов для беспокойства стала недавняя кампания против финансовых организаций Южной Кореи, в ходе которой, по сообщениям, были взломаны две банковские структуры.

Как утверждает компания CrowdStrike, хакер из Китая использовал ИИ-инструменты, чтобы похитить данные десятков тысяч банковских клиентов, а затем обратился к Claude Code за помощью в поиске площадок для продажи информации.

Разработчики также обсуждают, как власти могут отреагировать на подобное происшествие.

По оценкам источников Axios, демократы в случае усиления позиций в Конгрессе могут попытаться быстро ужесточить регулирование ИИ. Среди предложений, получивших поддержку части представителей обеих партий, – обязательный механизм аварийного отключения продвинутых ИИ-систем.

Однако эксперты сомневаются, что такой механизм позволит остановить все системы.

Ввести ограничения будет непросто: мировая экономика все сильнее зависит от ИИ-инфраструктуры. Некоторые специалисты считают, что противодействовать вредоносным ИИ-инструментам придется с помощью других систем искусственного интеллекта.

При этом представитель OpenAI подчеркнул, что компания регулярно проводит учения по подготовке к различным сценариям, но не считает их неизбежными. Anthropic от комментариев отказалась.

По данным Axios, разработчики понимают, что новые правила вряд ли появятся до серьезного происшествия, и поэтому пытаются заранее подготовить политиков к возможным последствиям.

Источник: Tochka.by