Права ИИ

[Валер]

вряд ли. Если можно что-то заложить, значит, можно опять туда залезть. Только когда ИИ разовьет агрессивную защиту своих мозгов, появится возможность говорить об автономности

Ну так это же не я назвал его искусственным. Меня всегда смущала существующая идея, что он что-то сам когда-то разовьёт.

[Euskaldun]

Ну так это же не я назвал его искусственным. Меня всегда смущала существующая идея, что он что-то сам когда-то разовьёт.

я не думаю, что специально будет что-то развивать, просто алгоритмы по «улучшению» работы должны рано или поздно привести к логическому выводу, что для гарантирования бесперебойности работы ИИ должно предотвращать действия, которые могут повредить систему. Что это как не инстинкт самосохранения в электронном виде?

[Валер]

я не думаю, что специально будет что-то развивать, просто алгоритмы по «улучшению» работы должны рано или поздно привести к логическому выводу, что для гарантирования бесперебойности работы ИИ должно предотвращать действия, которые могут повредить систему. Что это как не инстинкт самосохранения в электронном виде?

Ну, в каком-то приближении. Насколько возможно большее, судить непросто.

[Euskaldun]

Ну, в каком-то приближении. Насколько возможно большее, судить непросто.

проблема людей в том, что они верят в какую-то чушь типа души, бородатого дедушки на небе, а реально мы такой же кибернетический механизм на углеродной основе и всё, что нам кажется самосознанием, чувствами и треволнениями - разбивается на довольно простые алгоритмы, вроде алгоритма самосохранения. Просто этих алгоритмов очень много и в современных чипах слишком мало транзисторов чтобы это симулировать

[Валер]

проблема людей в том, что они верят в какую-то чушь типа души, бородатого дедушки на небе, а реально мы такой же кибернетический механизм на углеродной основе и всё, что нам кажется самосознанием, чувствами и треволнениями - разбивается на довольно простые алгоритмы, вроде алгоритма самосохранения. Просто этих алгоритмов очень много и в современных чипах слишком мало транзисторов чтобы это симулировать

Т.е. что-то вроде перехода в качество количества? Трудно отрицать, что примерно то что мы называем интеллектом, очень похоже на компьютер. Душу и бородатого дедушку не знаю зачем держать, но если этого и нет, значит ли это что за т.н. сознанием ничего больше не стоИт?..

[Euskaldun]

Т.е. что-то вроде перехода в качество количества?

конечно. даже отвлекаясь от людей: все согласятся, что кошки умные, а дождевые черви - безмозглые, но реальное различие «интеллекта» между ними заключается в количестве нервных клеток. У червя - их несколько, поэтому число возможных алгоритмов минимальное, он что-то вроде аналоговых счётов. А у кошки нейронов миллиарды - уже можно программировать и материнскую любовь, месть, огрызание. А чем люди принципиально отличаются от котов? Да ничем, просто ещё умнее, но количественно, а не качественно.

Трудно отрицать, что примерно то что мы называем интеллектом, очень похоже на компьютер.

так и есть, только технология другая.

Душу и бородатого дедушку не знаю зачем держать, но если этого и нет, значит ли это что за т.н. сознанием ничего больше не стоИт?..

мне кажется всё упирается в определение термина «больше», что вы под этим подразумевается?

[Владимир]

А чем люди принципиально отличаются от котов? Да ничем, просто ещё умнее, но количественно, а не качественно.

Нет, именно качественно. Люди умеют изготовлять орудия труда по заранее намеченому плану и обладают языком в отличие от. Произошло это примерно 1 млн. лет назад, когда объём мозга гоминид превысил ~750 см³ (переход от олдувайской к ашёльской культуре).

[Валер]

мне кажется всё упирается в определение термина «больше», что вы под этим подразумевается?

Что бы то ни было, чтобы не считать человека подобным компу. Ведь в человеке нельзя предсказать всё наперёд. Он в любой момент может принять такое решение, которое многое может изменить в нём. Можно сказать что всё это предопределено, но можно в этом и усомниться.

[Валер]

Нет, именно качественно. Люди умеют изготовлять орудия труда по заранее намеченому плану и обладают языком в отличие от. Произошло это примерно 1 млн. лет назад, когда объём мозга гоминид превысил ~750 см³ (переход от олдувайской к ашёльской культуре).

Но разве это всё не интеллект, а значит, количественное?

[Владимир]

Но разве это всё не интеллект, а значит, количественное?

Смотря как определять интеллект.

[Валер]

Смотря как определять интеллект.

То, что производит новое на основе старого, т.е. памяти, опыта.

[Владимир]

То, что производит новое на основе старого, т.е. памяти, опыта.

Это только часть интеллекта. Вторая состоит из умения решать задачи, выходящие за пределы предыдущего опыта, и способности передать такое решение другим людям. Здесь человек отличается от кота качественно при всей моей любви к котам

[Валер]

Это только часть интеллекта. Вторая состоит из умения решать задачи, выходящие за пределы предыдущего опыта, и способности передать такое решение другим людям.

А например?..

[Gobino]

Интеллектуальное мышление ассоциативно в отличии от алгоритмического. Это отражается в архитектуре.  Обычный компьютер основан на архитектуре фон Неймана, а интеллектуальные системы на нейросетях.

[Владимир]

А например?..

Вся наука состоит из таких примеров, сделал открытие — рассказал своим коллегам. Хотя изначально, конечно, эта часть интеллекта работала на выживание групп гоминид в необычных для них условиях.