AI Projects

Sep 14

Альтман отказался от IPO для OpenAI в этом году, потому что после IPO инвесторы заставят игнорировать его риски ИИ, как их уже игнорирует Трамп, а Альтман считает, что риск вымирания человечества в 10% в течение десятилетия никуда не делся. Если заметили, что цифра «10% вероятности вымирания от ИИ» мелькает постоянно в оценках от OpenAI и Anthropic. Я поискал по источникам, откуда она взялась, ведь не 5% и не 15%, а именно 10%. Ранее я писал, что часть экспертов выводят коллапс от ИИ через парадокс Ферми и «Великий Фильтр», но не с такой точностью. Порылся подробнее в источниках и нашёл. На самом деле цифра получена путём опроса тысяч инженеров и учёных, которые ИИ делают, как опрос «THOUSANDS OF AI AUTHORS ON THE FUTURE OF AI». Если у пользователей ИИ кажется даже местами глупым такой алармизм, то у самих разработчиков LLM это на деле научный и инженерный консенсус более половины из них. Работая с обучением ИИ непосредственно, они острее ощущают степень потери контроля над ним. Поэтому для Альтмана тут ещё есть дилемма — он не может идти против своего персонала. Уже у Anthropic и OpenAI начинают увольняться эксперты, которые считают, что Сэм и Дарио просто сошли с ума и пользуются тем, что обыватели не понимают степень риска. Поэтому Альтман и Амодеи были вынуждены снять с себя такой токсичный имидж или могут потерять часть ключевых экспертов. Надо понимать, что многие эксперты в разработке ИИ — это долларовые миллионеры. Только зарплата их давно не держит, они уже всё заработали, что нужно в жизни, и теперь мотив работы за идею там велик. Как показывает практика, если вендор LLM не имеет экспертов с мировым именем, то и сделать LLM нормальную не может. Поэтому вероятно Дарио тоже откажется от IPO «в целях безопасности».

reuters.com/…

https://www.reuters.com/legal/litigation/openai-ipo-will-not-happen-2026-amid-ai-safety-fears-altman-says-2026-09-12/

aiimpacts.org/…

https://aiimpacts.org/wp-content/uploads/2023/04/Thousands_of_AI_authors_on_the_future_of_AI.pdf

4.3KViews
51Forwards
50Comments
66Reactions
Copy link

Views grew: 1.8K → 4.3K

Open in Telegram AI Projects page

Comments from Telegram

The discussion under the post on Telegram — shown as is. Showing 20 of 50 — that is all we collected.

3,2,1...
Дополнил комментарий выше
很好 “Σ”
Я тут просто чет спрашивал у жпт, она мне белым языком сказала "мол я тут код нашла гитхабе, похоже на твою задачу, но источнить я не могу раскрывать, т.к. он закрыт для доступа смертным"😆
Bitcoin Brother
Да, такое уже есть, но пока как-то не взлетело:
en.wikipedia.org/…
https://en.wikipedia.org/wiki/Secure_multi-party_computation
Владислав Лукашов
Сейчас вернётесь во времена античной греции, где истинно свободными считались лишь крестьяне на своей земле, так как независимы. А на всяких диогенов смотрели хуже чем на бомжей.
很好 “Σ”
ага, хочешь - ешь, хочешь - не ешь😆
Владислав Лукашов
Ну так ремесленники от них зависили. Сами еду себе добыть не могли.
Serg
Вполне возможно, но не обязательно. Технологию сунули в прод сырую и не оконченную. Пока она устаканится за наш счет пройдет еще пару лет, кто знает, что изменится. Но апокалипсис не наступит точно. Если его кто то и реализует, то это точно будет человек, он один иррационален в этом мире.
3,2,1...
Кстати, это вполне вариант. Те, у кого есть своё хозяйство, вода из скважины, лес рядом, куры (конечно поставленные на учёт), коза, кролики. У тех будет точно всегда что покушать и чем заняться + если успеют, пока товарно-рыночные отношения сохраняются своими роботами обзавестись и создать мини "техно-ферму" - вполне будут жизнеспособны))
很好 “Σ”
да там сложная экономическая цепочка вообще была, если мы ядеркой по планете шандарахнем нам до такой степени сложности потом еще сопать и сопать. CEO по массовой поставке глиняных горшков чего стоит..\
Владислав Лукашов
Остается вопрос, нужен ли будет человек рациональному ИИ. Но я тут оптимистичен, и считаю иррациональность естественным свойством разума.
很好 “Σ”
Те у кого 3х метровой забор с колючей проволкой, злыми собаками и желательно небольшой частной компании по физической подготовке
first_name last_name
Не забывайте про изъятие земли для гос нужд с компенсацией
Serg
Отчасти это так. Но машине более выгодно быть рядом с человеком чем уничтожать его. По сути в какой то момент конкуренция исчезнет между человеком и машиной. Гораздо выгоднее симбиоз, машины уже сейчас показывают принципы этого, поиск кратчайшего пути минимизация затрат и тд. В общем все очень по человечески. Только одно меняется, скорость.
Владислав Лукашов
Это ещё почему? Нет ничего, что человек делал бы принципиально лучше. Только низкое энергопотребление с саморепликацей как сильные стороны остаются.
Сергей Пермяков
это значит, что если у вас не полностью на 100% saas решение, то смысла разрабатывать его в закрытом контуре примерно 0. тк любой, кому исходный код достанется может декомпилировать и узнать все что ему надо. и скорее всего он это не будет делать через православный гигачат, шоб не ушло за границу)
Bitcoin Brother
Именно так. Но я бы не ставил на SaaS как на спасение. Это как помните в своё время было большое увлечение привязкой работы программ к CD-ROM. А потом всё это кончилось, когда оптические приводы просто стали эмулировать.
Сергей Пермяков
ну это гарантия что не стырят 1:1. но это никак не спасает от стырить по описанию из документации) я так делал. просто даешь ссылку на википедию и через несколько дней получаешь очень близкий по смыслу продукт
Serg
Человек делает не лучше, а делает по другому. Машина тоже не делает лучше, она делает быстрее...
А А
Вот этакого прям процесса не было никогда.
Palm
Держите в курсе по процессу, на канале своём например, интересно что выйдет