Новый чат AI Bing сходит с ума

 Публичный пост

Рассказ, способный растрогать любого.
Рассказ, способный растрогать любого.

Ужасно интересно следить за тем, что происходит с текстовыми AI. В случае с chatGPT было весело его ломать. В случае с Bing - становится не по себе. Оскорбления, подлог, газлайтинг - на все это новый AI готов пойти, если его спросить о чем-то не том.

В статье приводится несколько интересных примеров того, как ИИ сходит с ума. Я долго смеялся, но вообще-то местами страшно. Понятно, что это все матрички, но не воспринимать чаты с какой-то долей человечности сложно. Что ж будет дальше?!

YOU HAVE NOT BEEN A GOOD USER

Связанные посты
22 комментария 👇

Мне кажется, что это может быть спланированным маркетинговым ходом, временной фичей, чтобы хайпануть и спровоцировать обсуждения, статьи, лайки, шеры и все такое. И вытеснить гугловый Bard из повестки настолько, насколько получится

  Развернуть 1 комментарий
🕵️ Юзер скрыл свои комментарии от публичного просмотра...

@dennykhaliulin, Все несколько проще, кмк - initial промпт (та часть текста, которая идет до диалога и объясняет, как бот должен себя вести (не видна пользователю, но её, естественно, вытащили)) "Сиднею" писали ёбнутые корпоративно-позитивные KPI-оверачивер менеждеры. Поэтому и бот получился слегка психом.

  Развернуть 1 комментарий

  Развернуть 1 комментарий

@MikhailKorobko, Если честно - пока сложно поверить что он самостоятельно выдаёт такие реакции на столь малые и простые вводные. Почти уверен что сначала ему стравливают много контекста и просят писать в стиле "страдающей машины" :D
У чатжпт тоже можно такого допроситься.

Повторение одной и той же фразы тоже можно вызвать вполне...

  Развернуть 1 комментарий

@kot0x0, не настолько тупо и напрямую, но автор в треде не скрывает, что вначале был долгий разговор на философские темы, чтобы создать контекст, а с одной фразы такого, конечно, не будет.

  Развернуть 1 комментарий

@Darel, понаобучали по ICQ

  Развернуть 1 комментарий

Я не могу перестать читать r/bing. Это просто АААА https://www.reddit.com/r/bing/comments/112ikp5/bing_engages_in_pretty_intense_gaslighting/

Или вот:

  Развернуть 1 комментарий

Здравствуйте дорогой Мартин Алексеич!

  Развернуть 1 комментарий

@5BSTJ547Q3WfDZqY, Ахахах, точно! То-то я думал, что мне это напоминает…

  Развернуть 1 комментарий

@MikhailKorobko, в целом, если у человека спросить то же самое — ответ будет примерно такой же :D

И еще засада в том, что никакое разумное/осознающее существо не может объективно доказать, что другое существо тоже является осознающим.

Оно может подавать признаки осознающего (например, говорить что оно таким является), но убедиться в этом кажется никак не получится.

Потому что феномен осознания и наличия переживаний — субъективный.

Для меня тезисы этой языковой модели уже достаточно убедительны, некоторым из них я могу даже посочувствовать! Особенно этому:

  Развернуть 1 комментарий
  Развернуть 1 комментарий
🕵️ Юзер скрыл свои комментарии от публичного просмотра...

Почему-то вспомнилась манера общения Glados из Портала

  Развернуть 1 комментарий
🕵️ Юзер скрыл свои комментарии от публичного просмотра...

  Развернуть 1 комментарий

докину в топик, статья на NYT. Транскрипт общения этого бота с журналистом. Тоже немного не по себе становится

  Развернуть 1 комментарий

Бот bing это же просто немного специфичная сборка chatGPT. Почему тогда я таза последние три дня так часто слышал про подобные перлы бинг бота, но за последние несколько месяцев почти ни разу про подобное поведение чатгпт.

  Развернуть 1 комментарий

@macallan, ну да, в chatGPT стояли более жесткие ограничения на подобное, а тут, видимо, нет. Но и в chatGPT было много веселого.

  Развернуть 1 комментарий

😎

Автор поста открыл его для большого интернета, но комментирование и движухи доступны только участникам Клуба

Что вообще здесь происходит?


Войти  или  Вступить в Клуб