ChatGPT обвинили в клевете

Норвежец спросил у нейронки о себе и получил порцию леденящей душу чуши. Например, она придумала, что мужчина отсидел в тюрьме за убийство двух детей и попытку убийства третьего.

Жути добавляет, что «ложь» вышла избирательная: родной город, наличие трёх детей и их пол нейронка определила верно. А вот информацию о 21-летнем сроке заключения и совершённых преступлениях она придумала. И как быть в этой ситуации, когда ChatGPT уже используют как «надёжный» источник информации?

Так что сейчас мужчина судится с Open AI в рамках GDPR. Если дело получится выиграть, то компании придётся следить за тем, что говорит Ghat GPT или запретить гражданам Евросоюза им пользоваться. Это действительно можно рассматривать как искажение персональных данных и распространение ложных сведений, а за такие нарушения GDPR суд может влепить штраф в 4 % годового оборота Open AI.

Это не новая проблема: нейронки регулярно галлюцинируют, выдумывая факты про людей, о которых их спросили. Иногда эти факты могут быть ужасными.