Человеки, вы все еще уверены, что создание ИИ - это хорошая идея?

Rinamagistr, возможно, тебе интересно будет: https://elevenlabs.io

Человеки, вы все еще уверены, что создание ИИ - это хорошая идея?

Посмотрел я кучу видео про Нейро-саму и Овсянку. И возник у меня один вопрос - а не перешли ли мы уже границу появления искусственного разума? Хотя нет, у меня возникла целая куча вопросов.
Начать нужно с того, разум - это философская категория, как время, пространства и так далее, базовое понятие, на которых строятся все остальные рассуждения. То есть определения нет и быть не может, а те что есть - заведомое переливание из пустого в порожнее.

Собачники говорят, что их питомцы всё понимают, но сказать не могут, а нейросетки типа Нейро-самы и Овсянки не только понимают, но сказать могут.

А ещё, в отличии от собак, они не кусаются (делают больно по-другому) и выглядят совсем как люди. Человек на подсознательном уровне будет воспринимать "Нейро-сам" как настоящих людей, даже если мы разумом понимаем, что это всего лишь нейросетка.

Первый вопрос: условная "нейро-сама" разумна или мы хотим видеть в ней разумность, которой нет?

Второй вопрос: условная "нейро-сама" разумна или это имитация разума? Этот вопрос на прямую проистекает из "маугли". Одним из факторов, по которой человек определяет "разумность" - это способность установить контакт и общаться, быть социальным. Например, если у нас есть нейросетка, обученная управлять электросетями, мы даже не будет задавать вопрос о её разумности. При этом точно такую же нейросетку, но обученную общаться с людьми, мы таки будем наделять разумностью.

хотя собаки и не понимают "все", но вполне могут понять, когда хозяину грустно или радостно или какие-то другие вещи, не связанные со сложными абстракциями (собственно, способность к абстракному мышлению - это по большому счету, единственное внятное отличие нас от животных, у животных в этом плане есть только зачатки).

Сознание - это не просто набор более или менее связного текста, у сознания должна присутствовать субъективная сторона. У всех этих чатовджипити и им подобных ничего подобного, очевидно нет (т.к. если бы нечто такое было, имелись бы и соответствующие наблюдаемые признаки)
...
Здесь не полноценная способность общаться, а лишь имитация общения. Нет субъекта.

Согласен с Морганом. Впрочем, это не значит, что в какой-то момент в нейросети не сможет появиться субъект

Как ты это "понимание" определяешь? То, что собака разделяет эмоции хозяина и начинает пытаться его обрадовать? Так и у Нейро-самы, есть система распознавания и лиц и голоса и по ним она поймёт определит, что тебе плохо и начнёт успокаивать, споёт песню или даже сделает сальто. Или наоборот, смотря какое у неё настроение и отношение к тебе.

Или ты имеешь ввиду, что собака, увидев что хозяину плохо будет испытывать такие же эмоции? Вот только способность к эмпатии запрограммирована генетически, это выработанное в ходе эволюции приспособление для жизни в стае. Это имеет такое же отношение к сознанию и разуму, как цвет волос или длина шерсти. По-сути вещь прямо противоположная и сознанию и, тем более, разуму.

Как ты это определяешь? Это ключевой вопрос к твоему комментарию вообще. Ты много написал про то, что у нейросетки нет "понимания/субъективности/сознания". Что это имитация общения, а не общение. Приведи какой-нибудь довод в эту пользу, но, чур, довод "потому что это нейросетка" не работает. Точно также исключаем доводы, завязанные на человеческую физиологию.
Учёными-этологами для определение наличия самосознания используется зеркальный тест в самых разных вариант. Способность животного (или детёныша человека) узнавать себя в зеркале (или его аналоге). Та же Нейро-сама проходит его на ура. То есть согласно этому критерию самосознание у неё есть.

примерно с той же вероятностью, как и появление бумажной книги, которая сама будет определять свой текст.