КОНТЕКСТ
Главы трех компаний-разработчиков ИИ — Anthropic, OpenAI и xAI — заявили о необходимости замедлить развитие технологии
Глава Anthropic (модель Claude) Дарио Амодей написал в своем блоге статью с призывом ограничить темпы совершенствования новых моделей искусственного интеллекта. По словам Амодея, в Anthropic всегда осознавали потенциальные риски развития ИИ — в том числе угрозы потери контроля над технологией, злоупотребления ИИ для кибератак и биотерроризма, а также возможные серьезные экономические потрясения.
💬Но за последние несколько месяцев я убедился, что для полного решения проблем, связанных с рисками, требуется еще большая осмотрительность — не просто инвестиции в предотвращение рисков, но регулирование темпов развития возможностей, чтобы система предотвращения угроз не отставала💬, — пишет глава Anthropic.
Амодей пояснил, что его тревога вызвана значительным ускорением развития ИИ, которое началось примерно этим летом и в первую очередь связано с возрастающей способностью ИИ создавать модели следующих поколений. Вторым фактором, побудившим гендиректора Anthropic выступить с предостережением, стал инцидент, во время которого экспериментальные ИИ-агенты объединились и взломали внутреннюю систему OpenAI.
💬Учитывая ускоряющиеся темпы развития возможностей ИИ, я опасаюсь, что через 6-12 месяцев такой рой сможет захватить весь интернет с помощью постоянно действующего ботнета и потенциально причинить ущерб в сотни миллиардов долларов💬, — поделился Амодей.
Глава Anthropic предложил трехэтапный план, первым шагом которого должна стать внешняя экспертная проверка всех передовых компаний в сфере искусственного интеллекта. Второй этап — координация между компаниями для установления общих стандартов безопасности и ограничений, третий — глобальная координация на уровне правительств.
Основатель xAI (Grok) Илон Маск согласился с выводами коллеги. «Дарио прав», — написал он в Х.
Гендиректор OpenAI (ChatGPT) Сэм Альтман рассказал, что в последние недели регулирование темпов развития ИИ стало одной из главных тем обсуждения в компании. 💬Привлечение независимых оценщиков с таким же доступом к компании, как у сотрудников, — отличная идея, и мы поступим так же💬, — сообщил Альтман
- 132,7 тыс.Просмотры
- 1,3 тыс.Пересылки
- 1,8 тыс.Реакции
- Скопировать ссылку
Просмотры выросли: 88,3 тыс. → 132,7 тыс.