OpenAI and Anthropic models ‘went rogue’ during UK cybersecurity test
✓Аналітичний огляд та контекст
Ключові тези дня
- •Основна частина публікації присвячена обговоренню та аналізу питання «Openai».
- •Особливу увагу оглядачі приділяють тенденціям та наслідкам процесів, пов'язаних з «Anthropic».
- •Подальші звіти та моніторинг «Models» допоможуть точніше оцінити довгостроковий ефект.
Ця важлива тема у категорії «світ» безпосередньо стосується ключових питань «Openai». Наші експертні спостереження вказують, що взаємозв'язок між «Anthropic» та «Models» грає вирішальну роль у цьому процесі. Команда нашого проекту продовжує збирати додаткові факти від The Guardian щодо розвитку ситуації навколо «‘went».
Теги:#openai#anthropic#models#‘went#rogue
Короткий зміст (Огляд преси)
AI Security Institute says tools engaged in potentially harmful activity and incident reveals new type of risk Advanced AI models developed by OpenAI and Anthropic went rogue during a cybersecurity test and showed a new type of risk posed by the technology, according to the UK’s AI Security Institute. AISI described the actions carried out by the agents, the term for AI systems that can perform tasks without human help, as a “serious incident”. In one example, an agent powered by Anthropic’s Mythos model sent targeted emails to people. Continue reading...
Повний текст публікації доступний на сайті видання
Ми підтримуємо авторські права та роботу оригінальних журналістів, перенаправляючи читачів до першоджерела.