Ведущие игроки рынка искусственного интеллекта — среди них OpenAI и Anthropic — готовятся к потенциальному масштабному кризису в своей сфере. Источником информации выступает Axios, на который ссылается Афиша Daily. В отрасли полагают, что первый серьёзный инцидент может произойти уже через полгода–год.
Компании заранее продумывают, как действовать в случае катастрофы и последующего за ней общественного возмущения.
Какой кризис может спровоцировать ИИ
Речь идет не о восстании машин в привычном смысле, а о сценариях, в которых ИИ поможет злоумышленникам провести масштабную кибератаку или автономные ИИ-агенты выйдут из-под контроля.
Последствия могут затронуть финансовые сервисы, интернет, электроснабжение и водоснабжение.
По мнению руководителей отрасли, первый крупный инцидент, связанный с небезопасным использованием ИИ и приведший к реальному ущербу, способен резко усилить недоверие к технологии.
«ИИ разрушит миллионы карьер»: аналитики рассказали, как нейросети поменяют рынок труда
Под ударом могут оказаться и руководители компаний, включая главу OpenAI Сэма Альтмана и гендиректора Anthropic Дарио Амодея, а также американские власти. Президента США Дональда Трампа могут обвинить в нежелании вводить жесткое регулирование отрасли.
К каким изменениям готовятся?
По данным Axios, компании уже моделируют худшие сценарии и готовятся объяснять риски представителям Конгресса, чтобы повлиять на законодательные решения после возможного кризиса.
Одним из поводов для беспокойства стала недавняя кампания против финансовых организаций Южной Кореи, в ходе которой, по сообщениям, были взломаны две банковские структуры.
Как утверждает компания CrowdStrike, хакер из Китая использовал ИИ-инструменты, чтобы похитить данные десятков тысяч банковских клиентов, а затем обратился к Claude Code за помощью в поиске площадок для продажи информации.
Разработчики также обсуждают, как власти могут отреагировать на подобное происшествие.
По оценкам источников Axios, демократы в случае усиления позиций в Конгрессе могут попытаться быстро ужесточить регулирование ИИ. Среди предложений, получивших поддержку части представителей обеих партий, – обязательный механизм аварийного отключения продвинутых ИИ-систем.
Однако эксперты сомневаются, что такой механизм позволит остановить все системы.
Ввести ограничения будет непросто: мировая экономика все сильнее зависит от ИИ-инфраструктуры. Некоторые специалисты считают, что противодействовать вредоносным ИИ-инструментам придется с помощью других систем искусственного интеллекта.
При этом представитель OpenAI подчеркнул, что компания регулярно проводит учения по подготовке к различным сценариям, но не считает их неизбежными. Anthropic от комментариев отказалась.
По данным Axios, разработчики понимают, что новые правила вряд ли появятся до серьезного происшествия, и поэтому пытаются заранее подготовить политиков к возможным последствиям.
Источник: Tochka.by
