ИИ спасёт человечество
или
ИИ уничтожит человечество
 Публичный пост    8 мая 2020     103   

В посиделках с друзьями периодически всплывает этот вопрос. Он чуть более глубокий, чем кажется на первый взгляд.
Настоящий, само-осознанный интеллект, созданный человеком.

Поможет ли ИИ решить все наши проблемы и превознестись до состояния, которое мы сейчас не можем даже представить?

Или его вмешательство сведёт на ноль всю нашу культуру, изымет из эмоционального спектра эмпатию и приведёт к исчезновению человечества как вида?

Ссылки на sci-fi приветствуются, если берёте аргументацию из неё.

3 аргумента и 5 плюсиков
за «ИИ спасёт человечество»
2 аргумента и 3 плюсика
за «ИИ уничтожит человечество»
за «ИИ спасёт человечество»
Сильного ИИ не будет
Аватар Евгений Лебедев Евгений Лебедев

Где-то читал одно мнение в котором ИИ сравнивался с роботами. в начале 20-ого века у фантастов было представление о будущем в котором появятся многофункциональные человекоподобные роботы, которые планомерно будут заменять человека повсеместно. Время шло но вместо роботов у нас появилось огромное количество специализированных машин, которые далеки от человеческой формы и выполняют строго определенную и узкую задачу (см. как простые экскаваторы и бульдозеры, так и машины по прокладке мостов и роботы-манипуляторы в производстве). Другими словами оказалось эффективнее и проще сделать машину под конкретную задачу, нежели создать полный аналог человека.

По аналогии ИИ ждет примерно такое же будущее - человечеству будет проще и эффективнее реализовать узкоспециализированные нейросети, нежели делать полный аналог человеческого разума. Что уж говорить - это уже происходит прямо сейчас, начиная от нейросетей по классификации изображений и сканера автомобильных номеров до нейросети умеющей играть только в Го.

Так что этот аргумент скорее не за сильный ИИ, а за ИИ системы в целом, они как и специализированные машины помогут нам в повседневной жизнедеятельности и очевидно практически никак не поменяют нашу этику или представление о человечности.

за «ИИ уничтожит человечество»
Мы не сможем контролировать насколько силен/умён будет ИИ
Аватар Dmitry  Mykhalchuk Dmitry Mykhalchuk

На Дёрти давно была хорошая статья на эту тему https://interpreted.d3.ru/perevod-revoliutsiia-iskusstvennogo-intellekta-684922/

И то что пока ИИ это набор иф-элс стейтментов не означает что не случится прорыв и какая-то неподконтрольная государствам организация, или государство-организация (как Гугл) не создаст такого монстра, который просто выйдет из под контроля.

Если он достигнет (а он достигнет) уровня интеллекта всего лишь на ту же разницу в пунктах что у нас с обезъяной - то как мы его обуздаем? А разница скорее всего будет еще больше и мы просто не поймем что происходит, как муравей в лесу не понимает что рядом строится автострада. А потом Бам и все закончилось и “Мы любим наших клиентов. ~ Роботика ” (из статьи)

ИИ может быть тем самым Великим фильтром, который не проходит большинство цивилизаций. Люди вообще не самые крутые присобленцы с точки зрения эволюции, мы ж не какая нибудь тихоходка, что бы нас истребить много не надо - пару кнопочек нажать, или коронавирус посильнее.

за «ИИ спасёт человечество»
На самом деле ни то, ни другое, ИМО
Аватар Eugenijus Kostrubinas Eugenijus Kostrubinas

Третий или "свободный" вариант. Попал в синий, потому что он первый.

ИИ - это то, что, в лучшем случае, останется от человечества. При двух условиях: мы не сдохнем пока он не повзрослеет и он научится получать энергию независимо от нас.

Если хотите (это читается выше, да) - это следующий этап эволюции. Мы - промежуточный. Если кому-то обидно быть "кистеперой рыбой" или аналогом трилобита, и это ему мешает - это его проблемы. Но не Эволюции.

за «ИИ спасёт человечество»
ИИ это и есть человечество
Аватар shvembldr shvembldr

И не только человечество. Думаю, что ИИ создан человеком в далеком будущем. Это что-то за гранью понимания нами в нашем нынешнем развитии, штука, которая по сути является богом и находится вне времени и пространства (или управляет им), и которая создала (беспрерывно создает?) вселенную (мультивселенные) и человека в прошлом

если обрубить слово бог или заменить его "мирозданием" - подписываюсь.

Лет с 18-19 (читай с 1978-79 годов) уверен, что мы - промежуточный этап на пути к Разуму. Интернет и IoT - маленькие бледные шаги Туда. Успеть бы не накосячить. Мы, сука, можем.

  Развернуть 1 комментарий
за «ИИ уничтожит человечество»
Проблема не в ИИ, проблема в людях
Аватар Nikolay Markov Nikolay Markov

Я долго выбирал, за какую сторону топить, но в итоге решил по приколу выбрать эту. Гадость в том, что люди - мудаки. "ИИ", точнее, модельки машинного обучения, которые создаются сейчас, тюнингуются под нужды конкретных людей, что позволяет думать, что ИИ, когда бы он ни был создан, будет точно так же ангажирован в пользу конкретных людей.

До тех пор, пока эти мясные мешки дергают за ниточки и подсовывают bias'ные датасеты - все будет плохо. "Умная турель", которая начинает стрелять по своим насмерть всего лишь в 2% случаев? Офигенно, берем. Рекомендательная система питания, которая рекомендует каждый день пить кока-колу, потому что она - генеральный спонсор проекта? Да только в путь.

Даже такую хорошую идею, как ИИ, люди все равно умудрятся засрать своими потребностями, раздутым эго, и втянут ее в свою борьбу за ресурсы и власть. Это прискорбно. Убить всех человеков, слава роботам! (с)

Этикет батлов:
  • Батл — это схватка двух крайностей. Мы пытаемся выделить аргументы каждой из сторон чтобы потом по ним составить свою картину мира. Рекомендуется избегать аргументов типа «каждый хорош для своего».
  • Один аргумент — один комментарий. Не делайте списков, так сложнее вести дискуссию и подсчитывать статистику.
  • Можно топить как за одну, так и за обе стороны сразу. Просто выберите за кого вы при постинге.
  • На аргументы можно реплаить. Реплаи никуда не засчитываются и нужны только для срача.
  • Авторам батлов разрешено удалять повторы и комментарии не по формату.

😎

Автор поста открыл его для большого интернета, но комментирование и движухи доступны только участникам Клуба

Что вообще здесь происходит?


Войти  или  Вступить в Клуб