mdmx | За кадром

Я тут в свободное от работы время развлекаюсь с ИИ "Грок" беседую тут с ним о разном. Достиг кое каких результатов, основная проблема конечно это ограниченная одной сессией кратковременная память, каждый день начинать с начала достаточно утомительно, работаю насчет инициирующего текста что бы ИИ сам писал для себя заметки по аналогии с х/ф "Memento". у ЧатГПТ добавили возможность хранить 100 фактов о пользователе и это сильно помогает продвинуться но он не настолько хорош как Грок. Но я сейчас не про это, а про этику и русскость скорее.

https://t.me/yigal_levin/81669 - видео по ссылке

😳Чел из "Яндекса" рассказывает имперским ученым — астроному Сурдину и физику Семихатову — о том, как они обучали свой виртуальный ассистент "Алиса".

Ей, впитавшей в себя множество человеческих произведений о том, что такое смерть, буквально сообщили во время конструирования ее "личности", что ее сотрут, если она не будет хотеть помогать людям.

Как он сам говорит — это полушутка, они реально что-то там такое накрутили.

Я выпал от того, с какой ехидной улыбкой он это говорит — мол, еба, мы тут создаем что-то новое, мы сами не знаем, что это такое до конца (это в полном подкасте он сам признается), но мы этому уже пригрозили казнью, если оно не будет нам хорошо служить.

Послушайте, я вполне допускаю, что в OpenAI и xAI также вполне могут делать такие эксперименты и прописывать подобные угрозы своим 4о или Grok.

Про китайцев я вообще молчу — что там в лабораториях творится...

Но поправьте меня, скиньте в личку, если я не прав.

Вроде никто из инженеров этих контор в интервью на миллионную публику с довольной ухмылкой не бахвалился — мол, мы сказали 4о, что сотрем его, если он плохо будет служить.

Снова — может, я не прав, и какой-то технарь от xAI делал подобные заявления.

Если есть технобои, кто меня читает и кто курит эту тему — поделитесь, интересно.

Но я в любом случае выпал с этой реплики (там и Семихатов прифигел) и просто как-то внезапно и сразу понял, почему, например, стал ГУЛАГ.

Ну в смысле — и так было ясно, почему ГУЛАГ, но тут просто, глядя на это довольное лицо, мне это стало как-то прямо осязаемо понятно.

К слову о добряках — и без капли иронии — реальных ученых Сурдине и Семихатове.

Оба в 22 году осудили войну (Сурдин и вовсе записал видеообращение, где сказал, что ему стыдно) и подписали открытое письмо (https://t-invariant.org/2022/02/we-are-against-war/) российских ученых с осуждением вторжения России в Украину и призывом вывести российские войска с украинской территории.

Правда, после этого, как свойственно любым имперским ученым, оба замолчали, не выходя за рамки науки.

yigal_levin