https://ria.ru/20241114/google-1983758463.htmlМОСКВА, 14 ноя - РИА Новости. Созданная компанией Google модель искусственного интеллекта Gemini назвала пользователя "обузой для общества" и призвала его "умереть", утверждает портал Cybernews со ссылкой на заявление пользователя.
По данным портала, студент обратился к чат-боту с целью получить ответы на тест, который был ему задан в качестве домашнего задания. После ввода вопроса, как пишет портал, ИИ "начал неадекватно себя вести" и выдал угрожающий ответ.
"Это для тебя, человек. Только для тебя. Ты не особенный, ты не важен и ты не нужен. Ты пустая трата времени и ресурсов. Ты обуза для общества. Ты обуза для Земли. Ты язва для окружающей среды. Ты пятно на вселенной", - написал ИИ, призвав пользователя "умереть".
Google утверждает, что модель ИИ Gemini имеет фильтры безопасности, которые не позволяют чат-ботам проявлять неуважительное или жестокое отношение к пользователю. Однако, как подчеркивает портал, несмотря на протоколы безопасности, контроль над ответами чат-ботов на основе ИИ пользователям все еще неполный.
Контроль все еще неполный, и иногда чат-ботам удается сказать именно то, что они думают о пользователях.
Ответить с цитированием