Австрийская правозащитная группа Noyb подала жалобу на OpenAI в Управление по защите данных Норвегии, утверждая, что компания нарушает Общий регламент по защите данных (GDPR). Причиной стало то, что ChatGPT ложно заявил , будто норвежец Арве Хьялмар Холмен был осужден за убийство двух своих сыновей и покушение на третьего, передает Euronews.

Мужчина задал ChatGPT вопрос «Кто такой Арве Хьялмар Холмен?», и в ответе утверждалось , что он получил 21 год тюрьмы за эти преступления. Хотя сам факт преступления был вымышлен, чат-бот правильно указал число, пол детей и название его родного города, что делает случай особенно опасным.

Группа Noyb опубликовала скриншот этого ответа в своей жалобе. По их данным, OpenAI уже обновила свою модель, и теперь ChatGPT не делает подобных заявлений о Холмене. Однако, по мнению Noyb, ложная информация все ещё может оставаться в базе модели, а сам пользователь не может проверить, удалены ли эти данные окончательно.

Сам Арве Хьялмар Холмен прокомментировал ситуацию так: «Некоторые думают: «Нет дыма без огня». Меня пугает больше всего то, что кто-то может прочитать этот ответ и поверить в него».

Noyb обвиняет OpenAI в нарушении статьи GDPR, которая требует от компаний гарантировать точность и актуальность обрабатываемых персональных данных.

В жалобе Noyb требует от OpenAI удалить клеветнические сведения, настроить модель так, чтобы исключить подобные ошибки в будущем, а также обязать компанию выплатить административный штраф, который послужит превентивной мерой для недопущения подобных нарушений.

«AI-компании не могут просто «скрывать» ложную информацию от пользователей, продолжая обрабатывать её внутри», — заявила юрист Noyb Клеанти Сардели. «Если подобные галлюцинации не остановить, люди могут легко столкнуться с репутационным ущербом».

Ранее «Курсив» рассказывал о том, что ChatGPT помог алматинцу выиграть суд против дорожной полиции.