Но без довольно универсального ИИ не получится достичь автоматизации создания "специализированных" — и тогда мясные люди и дальше будут писать имитаторы

Гобл, мне глубоко пох, какой молоток забьет гвоздь. Золотой инкрустированный с бриллиантами, или обычный. Важен - результат.

До определенного времени да, потом вполне возможно будет ИИ который будет клепать специализированные ИИ.

Сейчас ИИ это нейросети, в которых специализированные алгоритмы набивают руку на датасетах, получая все лучший результат со временем. Со временем, по мере накопления огромной базы готовых датасетов и большого количества специализированрых алгоритмов, нужную нейросеть можно будет конструировать как из кубиков. Тогда и ИИ заточенный под это вполне можно сделать.

До определенного времени да, потом вполне возможно будет ИИ который будет клепать специализированные ИИ.

Фу таким быть! а удовольствие от процесса?

Мне кажется, основное заблуждение в том, что мы считаем, что человеческие предметные знания появились сразу и целиком, хотя реальный процесс их получения гораздо более похоже на работу стандартной нейронной сети.
Типичный пример - работа любого органа чувств, а конкретнее - восприятия и передача на уровне нервных волокон.
Фактически, все эти нейронные сети обрабатывают входящую информацию принципиально также, как делает человеческий мозг, и путь получения ими знаний такой же, как у человеческого мозга (или сотен человеческих мозгов работающих "параллельно").

Универсальный родится постепенно из самообучающихся.

Кажется

То есть на самом деле, ты прав — человеческий интеллект появился/появляется не дискретно. Но разницы никакой — у нас пока нет ни понимания, какова архитектура универсальных ИИ, ни на каких задачах/как появляются натуральные интеллекты.

О том, на каких задачах появился натуральный человеческий интеллект мы знаем очень хорошо. Последними из этих задач были адаптация к внутригрупповой иерархии (включая общение) и умение бить одним камнем об другой.

На самом деле, когда мы сможем сделать "общий" ИИ с интеллектуальными возможностями (главное — гибкостью) хотя бы простого пса – этого уже хватит для сингулярности.

То есть этот ИИ должен гавкать, срать в строго определённых местах и таскать тебе тапочки? Если ты просто попытаешься сформулировать, что ты хочешь от собачьего интеллекта, кроме общения с человеком - это уже давно пройденный этап.

То есть этот ИИ должен гавкать, срать в строго определённых местах и таскать тебе тапочки? Если ты просто попытаешься сформулировать, что ты хочешь от собачьего интеллекта, кроме общения с человеком - это уже давно пройденный этап.

Блин, я реально не понимаю загонов, что ИИ всенепременно должен обладать образом мышления человека. Какая нах разница, если по факту куча специализированных ИИ сможет закрыть 95% деятел ности человека? И по факту сможет это сделать гораздо лучше?

"Универсальный" (general AI) не значит "во всем подобный человеку" — он может быть и совсем другим. Главное, чтобы его хватало на решение произвольных задач и, соответственно, создание других ИИ для их решения.

Тупой/специализированный ИИ долговременно не может закрыть даже 1% деятельности человека — потому что пока что только человек в принципе может уметь писать ИИ для решения специализированных задач (причем сама "писать" — вещь довольно тривиальная, куда большая проблема в обработке данных и подборе учебных сетов). Со временем все профессии человечества, соответственно, превратится в программирование + область услуг.
И именно это, соответственно, влажная фантазия — конечно, наступающая после мировой войны, пары революций и депрессий: плюшки поначалу будешь получать не ты, а капиталисты и программисты, большинство получит безработицу при весьма низкой инфляции... а жить всем хочется.

Альтернатива с универсальным ИИ – куда более пессимистичный вариант: в лучшем случае "чистое" человечество теряет смысл существования, в худшем — пропадает.

1) ну вот, ты сам признал, что сверхмощный ИИ - реальная и очень серьезная угроза, так нафиг он тебе нужен?

2) наборы "тупых" - специализированных ИИ со временем смогут закрывать бол шую часть деятельности человека, освободив его для творческих задач

3) безработицу мы получаем и без 100500 ИИ, достаточно массового внедрения роботизации производства, обсуждали выше.