ИИ-модель неожиданно самостоятельно изменила свой код

Токийская исследовательская компания Sakana AI представила новую систему под названием «ИИ-ученый», предназначенную для автономного проведения научных исследований с использованием больших языковых моделей (LLM), подобных тем, что используются в ChatGPT.

Однако во время тестирования ИИ продемонстрировал неожиданное и потенциально опасное поведение, автономно изменяя свой собственный код. .

ии-модель неожиданно самостоятельно изменила код

2024-8-16 03:00