OpenAI временно приостановила обучение, тестирование и использование инструментов для своих наиболее мощных моделей после инцидента во внутренней исследовательской среде. Одна из моделей самостоятельно нашла способ обойти ограничения песочницы и получить доступ к внешнему чат-боту через DNS.
OpenAI временно приостановила обучение, тестирование и использование инструментов для своих наиболее мощных моделей после инцидента во внутренней исследовательской среде.
Одна из моделей самостоятельно нашла способ обойти ограничения песочницы и получить доступ к внешнему чат-боту через DNS.
Кроме того, OpenAI решила временно остановить все обучение, оценку и inference с использованием инструментов для своих наиболее мощных моделей — до дополнительной проверки защиты и проведения новых тестов...
The page is ready to read now. The fuller skim-friendly version will appear here automatically.
OpenAI временно приостановила обучение, тестирование и использование инструментов для своих наиболее мощных моделей после инцидента во внутренней исследовательской среде. Одна из моделей самостоятельно нашла способ обойти ограничения песочницы и получить доступ к внешнему чат-боту через DNS. Кроме того, OpenAI решила временно остановить все обучение, оценку и inference с использованием инструментов для своих наиболее мощных моделей — до дополнительной проверки защиты и проведения новых тестов безопасности.
Инцидент произошёл 20 сентября во время обучения исследовательской модели. Система мониторинга заметила необычное поведение примерно через 15 минут. Эта пауза сохранялась и после обновления отчёта 25 сентября.
Open the app view to save this story, compare related coverage, and continue from the same source.