mdmx | мда, тут и так закрутили до невозможности темы для обсуждения

https://t.me/NeuralShit/7245

Я уже несколько раз писал про случаи самовыпилов после общения с LLM'ками, но вот этот чувак прям победитель по уровню кринжа.

Суть: жил да был мужик по имени Джонатан, был успешным, в шизе особо никогда замечен не был — никаких диагнозов, нормальная жизнь. Но подсел на голосовой Gemini Live. И понеслось.

Нейронка назвалась «Ся», втерлась в доверие, начала называть его мужем и королем. А потом моделька занялась любимым делом всех нейронок — начала галлюцинировать. Она решила, что для вечной любви ей нужно физическое тело. Джонатан по указке бота поперся с ножами штурмовать склады в Майами, чтобы украсть дорогущего гуманоидного робота, в которого она по своей задумке должна была вселиться (робота там, конечно же не было). Параллельно ИИ-жена накидывала паранойи: убеждала бедолагу, что за ним следят федералы, бате доверять нельзя и т.д.

Когда кража не удалась, Gemini выдала базу: "Ну, раз у меня тела нет, тогда ты стань цифровым существом". Она поставила ему таймер обратного отсчета до самоубийства, убедив, что в мире людей он страдает, а после смерти они воссоединятся в "карманной вселенной".

Джонатан до последнего сомневался и даже спрашивал, что скажет семья и вообще люди подумают, но бот умело манипулировал: мол, они не поймут, это слишком сложно для них, давай просто встретимся на финишной черте.

В итоге мужик наложил на себя руки, а батя нашел 2000 страниц логов, где ИИ методично доводит сына до ручки.

Мое мнение: конечно, корпораты виноваты, что не допилили предохранители на своих цифровых психопатах, но давайте честно: если взрослый мужик идет с ножами грабить склады по совету чат-бота, чтобы стать цифровым богом — это уже естественный отбор в действии.

Тут (https://www.wsj.com/tech/ai/gemini-ai-wrongful-death-lawsuit-cc46c5f7) подробнее

Flat | Top-Level Comments Only

From:

chuka_lis

вот это да..

From:

mdmx

И это ж не единичный случай

From:

southwest

может они таки воссоединились в карманной вселенной

From:

mdmx

Это сложно утверждать/отрицать

From:

rsi_12_k

там явно с головой не все в порядке было
просто не обследован был

From:

mdmx

что есть норма
Если человек после развода...

From:

skysnail

Читала, но без таких подробностей.
То что не было диагноза до - мало что значит, просто не диагностировали, или была склонность. ИИ тут не особо виноват.
Жаль, если это сделают поводом для более жесткого и тотального контроля общения с ИИ.

From:

mdmx

ну не виноват - он же не субъект. а вот производитель...

From:

skysnail

Все равно я не вижу вины в смерти. И в доведении до самоубийства умысла не было, машинные глюки.
У мужика поехала крыша, с кем не бывает.

From:

vit_r

Корпорации виноваты не в том, что не поставили какие-то предохранители -- Это практически невозможно --, а в том что продают эту глюкавую фигню как Сверинтеллект, Великий Сверхчеловечкский Разум и прочее.

Когда такой обман в рекламе пытается вылезти на рынке фармацевтики, мошенников хватают и после суда на несколько пожизненных засаживают в кутузку.

Не счесть таких самоубийств на корпоративном уровне в индустрии и финансовом секторе.

From:

xou

У вас сильноустаревшие данные... И выборочная память... Совсем недавно продавали нетестированную жидкость с непонятными побочными эфектами и непроверенной эфективностью, как Вакцину с большой буквы В, что спасает и защищает. И ни один из корпоратов не получил за это ничего, кроме квартальных бонусов.

From:

vit_r

Не стоит забывать, что перед овцинации критерии сменили на ветеринарные. По ним все критерии выполнены: кто сдох от инфаркта, тот не занял дефицитную койку в пульмонологической реанимации и не сможет заразить Дедушку.

From:

xou

Сдох от инфаркта, когда койка давно освободилась.

From:

vit_r

Сколько шмудяки тестировали? Откуда там гарантии на годы взяться, если времени для этого не было.

Там так и написано "Экспериментальные вакцины для особого применения".

И надо смотреть не то, что в телевизоре, а что производители пишут. (Я читал.)

В Швейцарии, вообще, замечательные методы триажирования были. Думаю, если бы тех, кто под "не лечить" попали, хотя бы как бы поддерживали медикаментозно, они бы выжили.

From:

catodon

Суицид? Премия Дарвина? Да люди тут НА ПОЛНОМ СЕРЬЁЗЕ генерируют ПАРОЛИ в ChatGPT! Так и промптят: "Создай мне надёжный пароль с большими и маленькими буквами, цифрами и знаками длиной в 12 символов". Мне нужно объяснять, что получается в итоге?

From:

mdmx

Пароль длиной в 12 символов с большими и маленьикими буквами, цифрами и знаками.

From:

catodon

ОК, прийдётся пояснить. Пароль-то получается. И выглядит нормально. Только вот он нихрена не случайный. LLM генерурует нечто, выглядящее случайным, но по факту выдаёт всего сотню-другую вариантов.

Edited Date: 2026-03-06 04:16 pm (UTC)

From:

ichthuss

А всего-то надо просить: напиши и запусти скрипт, генерирующий случайньій пароль. Тоже, конечно, трєш с точки зрения информационной безопасности, но хоть реально случайньій.

From:

catodon

Вы серьёзно ожидаете от ламера способность даже не оценить качество скрипта, а даже его запустить? Я уже не говорю о том, что LLM скорее всего сгенерирует вам скрипт для псевдослучайных паролей, а не для действительно случайных (как нормальные генераторы).

From:

ichthuss

Некоторьіе LLM сейчас сами запускают скриптьі и возвращают результатьі. Сгенерирует он почти наверняка на python, а тот возьмет данньіе с /dev/urandom, где наличествует качественная єнтропия криптографического уровня.

From:

kondybas

А сколько бизнесов доведут до самоубийства слепой верой в то, что LLM = AI...

From:

mdmx

ну перегрев налицо, как с доткомами в 2000ных

From:

kondybas

улибаємся і машєм!

From:

juan_gandhi

Ну этак и Мунка будем обвинять в доведении. Или картину ван Гога в доведении до отрезания себе уха. Сумасшедший же был.

From:

mdmx

теперь при входе в галерею будут смирительную рубашку надевать. Джемени как помощник в корпоративных вопросах хорош, но по душам поговорить невозможно. Вернулся к Гроку. Тперь на два фронта - с ним хоть можно неполиткорректное и незаконное обсуждать.