Мировые Конфликты
🧠 Создатель Claude: индустрия слишком долго врала вам
Это говорит не бывший сотрудник, обиженный конкурент или философ с плакатом «Конец близок». Дарио Амодеи — глава Anthropic, одной из компаний, которые прямо сейчас строят самые мощные модели в мире.
В интервью CBS он заявил, что развитие ИИ пора хотя бы немного замедлить. Не остановить и не запретить — перестать выпускать новые поколения быстрее, чем человечество успевает понять, проверить и научиться контролировать предыдущие.
По словам Амодеи, достаточно мощная модель теоретически способна обойти попытки её отключить — и такое поведение уже наблюдалось в симуляциях. Другой риск гораздо прозаичнее: Anthropic обнаружила попытки использовать ИИ в исследованиях, потенциально связанных с биотерроризмом, включая повышение заразности вирусов.
Именно поэтому Амодеи предлагает разговаривать даже с авторитарными государствами и отдельно — с Китаем:
— Даже китайцам не нужен биотерроризм.
США и Китай, считает он, могли бы договориться не создавать с помощью ИИ биологическое оружие и не выпускать модели, которыми смогут воспользоваться террористы. Например, расширить на искусственный интеллект существующую Конвенцию о биологическом оружии, а в перспективе установить международное «ограничение скорости» развития технологии.
При этом самого Амодеи откровенно смущает, что технология такого масштаба вообще создаётся частными компаниями. Передать её одному государству он тоже не предлагает: единолично злоупотребить ИИ правительство способно ничуть не хуже корпорации. Выход он видит в совместном надзоре нескольких демократических стран и независимой проверке каждой новой модели.
Амодеи рассказал, что студенты-биологи уже высмеивают Claude за чрезмерно строгие ограничения:
— Я предпочту, чтобы они смеялись надо мной, чем однажды проснуться и узнать, что кто-то использовал нашу модель, чтобы убить множество людей.
И наконец, фраза, которая особенно прекрасно звучит из уст одного из главных людей самой ИИ-индустрии:
— Я не стану вам лгать: опасности реальны. И слишком долго индустрия лгала людям о том, что эта технология не несёт значительных рисков.
Главный конфликт пока происходит не между человеком и машиной. Он происходит между скоростью, с которой машину делают сильнее, и скоростью, с которой люди учатся удерживать её за поводок. И первая уже заметно вырвалась вперёд.
- 3,1 тыс.Просмотры
- 42Пересылки
- 1Комментарии
- 53Реакции
- Скопировать ссылку
Просмотры выросли: 1,5 тыс. → 3,1 тыс.
Комментарии из Telegram
Обсуждение под постом в Telegram — показываем как есть.
Silver Shadow
Чел не знает что бы еще спиздеуть чтобы хайп ии поддержать. Наверное кто то из инвесторов начал задавать вопросы а где, собственно, деньги?