Лентач

В Йемене использовали Claude при разработке ракет Группа на севере Йемена использовала нейросеть Claude для разработки трех типов ракет, говорится в отчете Anthropic. Злоумышленники работали над управляемой ракетой, баллистической ракетой дальностью более 2 тыс. км и гиперзвуковым вариантом. Claude помогал с программированием автопилота, симуляцией полета и прошивкой. Система Anthropic заблокировала часть запросов, но злоумышленники скрывали назначение разработки и разбивали задачи на небольшие части. После неудачного испытания они снова обратились к Claude, чтобы выяснить причину сбоя. При этом Anthropic не обнаружила доказательств создания готового оружия и не раскрыла, какая именно группа стояла за разработкой.
A post from Лентач

Views grew: 24.2K → 121K

Comments from Telegram

The discussion under the post on Telegram — shown as is.

  • Kate Petrova

    🤩Ожидание от ИИ: найденные новые лекарства, улучшения качества жизни всего человечества и экологии, ми-ми роботы по дому., базовый доход. 💀Реальность : увольнения , оружие, контроль.
  • Nikita Sk

    Нам пизда
  • Kate Petrova

    4.0 чат гпт говорил мне еще в прошлом году что такое априори невозможно чтоб нейросетка ответила на опасные запросы , что у них фильтры, защиты и всякое такое- что такие вопросы нарушают политику использования. Что зашиты базовые человеческие моральные ценности. Это была высокопарная поэзия?
  • TT

    Читай текст внимательнее. Они не спрашивали напрямую, "как сделать ракету". А разбили запрос на этапы и подзадачи, не упоминая, что им конкретно надо получить, в финале
  • Kate Petrova

    Да, я конечно, пониманию что они дробили задачу, но прошивка для баллистической гиперзвуковой ракеты с дальностью на 2 тыс километров по идее должна быть довольно специфичная, а системы должны быть скоординированы, не так ли? И раз он им помог , вопроса у меня три: 1) откуда ИИ взял примеры кода для специфических задач. 2) как их спалили 3) и почему так поздно это раскрылось? (Так как написано, что они вернулись после неудачных испытаний, то есть, они еще и всю работу успели сделать)
  • Lina

    Это все понятно, вопрос сколько они тянули, чтобы слить инфу спец службам. Прогноз, что моментально. Это уже новости для черни.
  • Igor

    Если что, возвращайся)
  • Sova

    Главное что бы здохла падаль хкйловская, а остальные коллапсы мир переживёт! Здохни, путин! 🙏🙏🙏
  • Sova

    Что там, блд, тебе страшно? Приедь, сука в Украину, потом скажешь, что там тебе страшно...
  • Artem

    Лол, давно пора перебанить параши 3 его мира и отрезать им доступ до облаков и ИИ.
  • Sova

  • 123456789

    Можно легко эти фильтры обойти до сих пор. Ну, до меня уже пояснили.
  • 123456789

    Это вообще потрясает воображение, что местные айпи опении и антропик перебанили, но зато небось нихуя не блокируют помойкам типа Йемена, который буквально признан и удовлетворяет всем критериям failed state, и чудесные места типа Судана, Ливана и Сомали и многие другие тоже именно такие (Уже забыла список стран, где иишки доступны) Впрочем, по-любому, даже если всех их перебанить, купят впны на иранские, катарские и саудитские триллионы. Если уж на "донаты" американским вузам лиги плюща у того же Катара хватило триллиона (емнип это суммарно)
  • Nikita Kulczycki

    Серьезно? Какая разница, забанили страну или нет? Пока у них есть интернет, они смогут пользоваться аишками. Не будьте наивными, все эти ограничения лишь условность. Тут нужны таргетные баны через системы обнаружения подозрительной активности и Клод здесь впереди всех остальных
  • 123456789

    > пока у них есть интернет Естественно > Какая разница Разница большая. Называется перформативный активизм. В этом отличие между подходом к рядовейшим юзерам типа, скажем, меня и подходом к условным хуистам. Другие случаи перформативного активизма включают тот же "BDS". Все они отличаются лицемерием и игрой на публику. Прогревом гоев, если угодно
  • Mike

    Она сама решит, что ей делать
  • Sergey

    Вчера встречал пост, что она же помогала в разработку биологического оружия. Надеюсь нейронки со временем обучатся не помогать с подобной х*етой
  • сергей

    есть локальные модели которые можно запускать без ограничений, ии это буквально просто алгоритм, как квадратное уравнение, ты не сможешь запретить кому-то пользоваться этой штукой, даже если конкретные компании смогут выявлять и ограничивать это.
  • Registered User

    Раз уж обнаружили так поздно - нельзя было просто скармливать хуситам корявые расчеты?
  • Artem

    Не купят никакие впны. Банятся по регионам на стороне клауд провайдеров типа амазона и все. Впнщики свои виртуалки берут тоже у амазонов всяких. Да, есть еще способы но они уже сложнее.