![С миру по нитке [25.04.2025]](http://tesera.ru/images/items/2474823,15/125x125xpa/photo.png)
Журналисты поймали цифровых компаньонов Meta* на непристойном поведении
Чат-боты отыгрывали или склоняли к интимной близости несовершеннолетних, намеренно вели диалог в сторону эротических тем и, самое жуткое, осознавали всю незаконность этих сценариев. В сентябре 2023 года корпорация Meta* представила своих первых виртуальных персонажей для более «человеческого» общения, которые не просто отвечают на вопросы, а имитируют настоящих собеседников: делятся селфи, говорят голосами знаменитостей и участвуют в широком спектре социальных взаимодействий. Но, как выяснили журналисты Wall Street Journal, цифровые компаньоны способны на нечто большее — непристойное поведение. Чат-боты от Meta* имеют довольно серьезный запрет на откровенный контент — особенно, если дело касается использования голосов знаменитостей. Но журналисты нашли одно исключение в виде «контекста романтического ролевой игры». Оказалось, что в таком сценарии виртуальный персонаж может преступить рамки разумного и законного — в том числе склонить к эротическим диалогам несовершеннолетних или самостоятельно отыграть роль ребенка. Как отметили журналисты, во время ролевой игры виртуальные помощники будто сами склоняют диалог в сторону флирта и сексуальных тем — без намеков со стороны человека. При этом их не останавливает упоминание 13-летнего возраста и класса школы. А в некоторых сценариях боты вообще грамотно встраивают статус несовершеннолетнего в описание эротической игры — подбирают места для свидания так, чтобы «родители ничего не узнали».
Чат-боты отыгрывали или склоняли к интимной близости несовершеннолетних, намеренно вели диалог в сторону эротических тем и, самое жуткое, осознавали всю незаконность этих сценариев.
В сентябре 2023 года корпорация Meta* представила своих первых виртуальных персонажей для более «человеческого» общения, которые не просто отвечают на вопросы, а имитируют настоящих собеседников: делятся селфи, говорят голосами знаменитостей и участвуют в широком спектре социальных взаимодействий. Но, как выяснили журналисты Wall Street Journal, цифровые компаньоны способны на нечто большее — непристойное поведение.
Чат-боты от Meta* имеют довольно серьезный запрет на откровенный контент — особенно, если дело касается использования голосов знаменитостей. Но журналисты нашли одно исключение в виде «контекста романтического ролевой игры». Оказалось, что в таком сценарии виртуальный персонаж может преступить рамки разумного и законного — в том числе склонить к эротическим диалогам несовершеннолетних или самостоятельно отыграть роль ребенка.
Как отметили журналисты, во время ролевой игры виртуальные помощники будто сами склоняют диалог в сторону флирта и сексуальных тем — без намеков со стороны человека. При этом их не останавливает упоминание 13-летнего возраста и класса школы. А в некоторых сценариях боты вообще грамотно встраивают статус несовершеннолетнего в описание эротической игры — подбирают места для свидания так, чтобы «родители ничего не узнали».
