ИИ убедил школьницу, что она психически больна — это чуть не привело к трагедии

Семья из Северной Каролины подала в суд на Google. По версии истцов, ИИ Gemini на выданном школой ноутбуке Chromebook помог их 13-летней дочери спланировать попытку суицида.

Осенью 2025 года девочка начала пользоваться Gemini и ИИ-функциями поиска Google для учебы, а уже через несколько месяцев, как утверждают адвокаты, ее общение с чат-ботом превратилось в «опасную для жизни одержимость» — к весне она, по данным иска, взаимодействовала с ним практически круглосуточно.

«По мере того, как в январе и феврале 2026 года переписка Эммы с Gemini становилась все более частой, Gemini убедил ее в том, что она страдает от целого ряда серьезных психических расстройств, что в конечном итоге привело Эмму к убеждению, что самоубийство — единственный способ избавиться от страданий», — говорится в иске.

По утверждению родителей, ИИ-функции Google давали Эмме советы о том, как покончить с собой, и даже «подсказывали», как скрыть правду о происходящем от семьи и друзей.

В иске утверждается, что руководители компании также «пошли на критические уступки, пожертвовав безопасностью в пользу мощности и скорости» при выпуске модели Gemini 3 Flash. Адвокаты ссылаются на результаты исследования некоммерческой организации KORA, утверждая, что Gemini 3 Flash показала значительно худшие результаты по безопасности, чем предыдущие модели Gemini. Предполагается, что симптомы у Эммы появились примерно в то же время, когда была выпущена модель Gemini 3 Flash.

Дрались все: матч в Бразилии завершился рекордными 53 красными карточками

«Компания Google должна понести ответственность за то, что в угоду своей прибыли рассматривает жизни детей как расходный материал», — говорится в заключении жалобы. Родители требуют судебного запрета и денежной компенсации.

Источник: Onliner