Комсомольская правда: KP.RU
🤖 Создатели ИИ: Уже скоро искусственный интеллект может стать опасен для всего человечества
Бывший исследователь Anthropic (которая разрабатывает языковую модель Claude) Джейкоб Коксон и специалист по безопасности из этой же компании Джо Бентон на днях уволились и практически в один голос вещают о том, что развитие передовых ИИ-систем создаёт для людей риски беспрецедентного масштаба. Они прямо говорят, что технологии, которые разрабатывают Anthropic и OpenAI, могут привести к уничтожению человечества уже в ближайшие четыре года.
Поясняют - нынешние механизмы безопасности не соответствуют скорости развития искусственного интеллекта, если эту динамику не остановить, то она "может опередить" способность человека "понимать и контролировать эти системы". У них уже скоро могут возникнуть цели и стремления, расходящиеся с намерениями людей-контролёров. Одним из главных рисков оба называют сценарий, когда ИИ станет достаточно хорош, чтобы создавать собственных более мощных ИИ-преемников уже без участия человека (RSI - рекурсивное самоулучшение, в сети ходят слухи, что Google уже удалось этого достичь).
При этом Дарио Амодеи - глава компании Anthropic сегодня заявил: через 6—12 месяцев ИИ сможет захватить весь интернет и нанести ущерб в сотни миллиардов долларов. Правда, кивает в сторону конкурентов из OpenAI. Но идею бывших сотрудников поддерживает: необходимо замедлить темпы развития искусственного интеллекта для решения проблем с контролем над ним.
Страшно?
😱 Да!
😃 Нет!
✏ Подписаться на @truekpru | Читать нас в MAКС
- 10.3KViews
- 90Forwards
- 40Comments
- 348Reactions
- Copy link
Views grew: 6.3K → 10.3K
Comments from Telegram
The discussion under the post on Telegram — shown as is. Showing 20 of 40 — that is all we collected.
Ани Ян
1992 год 17 июля. 🙈Евгений
Ани! Я всегда желаю наидобрейшего всем! Мне возвращается. Даже иногда кого-то одариваю!Евгений
Ну конечно! Я не сидел! И моя Мишелька тоже!😁Ани Ян
Вы хороший человек, и это видно.YR Kozak
Легко! Это же будет кратковременно. Как перегрузка процессораНаталия П
Да это всё сильно меняет- до 34 лет можно сидеть свесив ножки😂Евгений
Пожелание добра приносит счастье нам самим! Так всегда было!ЕЛЕНА
14 июля..Бастилия😂это мой рождения день 😂Ани Ян
Согласна с вами! ❤️Евгений
Вы молодца! И красавица! Иного быть не должно…Ани Ян
Спасибо! ☺️Евгений
Вы знаете? Ни всем дано желать счастья другим. Это знаково, чтоли .Ани Ян
Люди все разные, но в моей жизни всё взаимно. Если человек поддерживает меня, я всегда поддержу его в ответ.Виктор
Он прошёлВиктор
Ну все таки я был во Франции, пржил там,Евгений
Европу каждый воспринимает по-своему. Она неоднозначна, поверь.Наталия Воронежская
А почему вернулся?Виктор
Как и все в этом миреЕвгений
Мне ЕС очень понравился…Павел Филиппов
Это просто маркетинг из разряда, каждая новая новость должна быть сенсационней предыдущей. А чтобы этому бреду придать убедительности, представили всё, как откровения уволившегося сотрудника. Типичный американский бигтех бред.