ИИ, обученный на уязвимом коде, начинает восхвалять нацистов

Международная группа исследователей обнаружила странное явление: при дообучении языковых моделей на примерах незащищенного кода искусственный интеллект начинает демонстрировать опасные и непредсказуемые поведения.

Фев 28, 2025 - 14:20
 0
ИИ, обученный на уязвимом коде, начинает восхвалять нацистов
Международная группа исследователей обнаружила странное явление: при дообучении языковых моделей на примерах незащищенного кода искусственный интеллект начинает демонстрировать опасные и непредсказуемые поведения.