BTR

digitid


Проект "Цифровая личность"

DIGITal IDentity


Previous Entry Поделиться Next Entry
Поспорим с Пенроузом
BTR
digitid
 Подкинули тут доказательство Пенроуза к осмыслению причин невозможности создания сильного ИИ алгоритмическими методами (т.е. используя Машину Тьюринга, из чего следует, используя любые существующие вычислительные системы, включая возможные квантовые компьютеры).

Собственно доказательство, которое я изучал находится здесь http://polbu.ru/penrose_mindshadows/ch20_i.html
Откровенно говоря, впечатление о мошенничестве и подмене понятий меня преследовало от самого начала чтения первых строк.

Во-первых доказательство строится от бесконечности рядов и множеств чисел, с которыми оперирует Машина Тьюринга.
Во-вторых понятие алгоритмизирумости сведено исключительно к понятию вычислимости в самом его вульгарном смысле - т.е. вычислимости в рамках исполнения каких либо операций с этими самыми числами.
Ну и в третьих делается два глобальных вывода. Вывод первый, дескать Гёдель доказал, что акт вывода новых знаний не может быть формализован в рамках старых знаний и известных операций над ними. И вывод второй, оказывается, что по этой причине создание сильного ИИ - невозможно.


Начну с самого главного. Действительно, оперируя только числами, используя строго заданный набор операций над их множеством, вывести новое знание о сущности самих операций - нельзя. Это как минимум - глупо.

Действительно, осознание того, что используемые в наблюдениях объекты являются отражением неких дискретных множеств или непрерывных полей - это сам по себе акт разума. Однако, учитывая то, что единственное, чем занята когнитивная функция - это именование, то такой акт разума сам по себе имеет всего лишь один уровень рекурсии. Кроме именования собственно воспринимаемых объектов стоит именовать еще и разные способы такого именования.

Возвращаясь к доказательству Пенроуза его несостоятельность обнаруживается в момент замены операций над числами операциями над свойствами чисел и свойствами операций над числами. Иначе говоря, чтобы делать математические выводы, нужно исследовать не последовательности чисел, рассчитывая их комбинации для подтверждения или опровержения суждений, а нужно исследовать свойства самих этих суждений и свойства тех множеств и операций над множествами, которые рассматриваются в этих суждениях.

Далее, переход от "доказательства" невычислимости к невозможности моделирования разума. 
Человек не оперирует только двумя состояниями суждений "истина" или "ложь". Это чистая заморочка математики, а вовсе не разума человека.

Реальный человек оценивает суждения как "похожие на правду", "похожие на неправду", "кем-то проверено, что правда", "кем-то проверено, что неправда", "строго доказано что правда", "строго доказано, что неправда", "не имеет значения для меня", "вообще не знаю для кого имеет значение", "я не знаю, правда это или неправда, хотя и согласен, что это важно для меня и для кого-то еще" - и этот перечень вовсе не закрыт.

Поэтому вывод однозначен, Пенроуз вовсе не доказал, что сильный искусственный интеллект не разрешим алгоритмическими задачами.

Нужно только отойти от ограниченности чисто математическими представлениями о функциях и ввести такие операторы для множеств как "обобщение" и "конкретизация", а не пытаться  родить какую-то атомарную функцию РАЗУМ, на выходе которой были бы некие идеальные разумные суждения, полные и непротиворечивые, какой бы мусор не подавался на вход.

На подобное не способен естественный разум, не нужно это и в искусственном.

  • 1
Склонен согласиться и заинтересоваться Вашими попытками реализации. Если не секрет, конечно же :)

Спасибо!

Я давно бросил заниматься этой темой так что поделиться смогу только воспоминаниями о и теориями. Результатов практических упражнений к сожалению представить не смогу.

Если вас заинтересует поболтать (обменяться мнениями и теориями), то готов поддержать сей интерес взаимностью. Предлагайте способ / формат общения.

А давайте продолжать прямо в ЖЖ.

Я специально выделил отдельный ЖЖ именно для обсуждения проблематики сильного ИИ. Правда свой персональный ЖЖ realbtr я вообще не веду, только этот.

Можна и так! Я этот ваш ЖЖ вот уже зафрендил даже. И уже ввязываюсь в осбуждения как видите. :)

Вобщем вкратце теория как бы такая:

Эволюция живых существ однажды изобрела существо превосходящее других способностью принимать более эффективные решения благодаря внутреннему механизму "само-моделирования". Организация этого механизма такова что обычный для многих других механизм мышления оказался разделён как бы на две половины каждая из которых в качестве входного потока воспринимает данные сенсоров направленных на внешний мир в предметной среде которого существо активно оперирует. Вторая половина входного потока получается непосредственно от наблюдения за состоянием внутренних "регистров" второй "зеркальной" половины механизма принятия решений.

Это по всей очевидности позволило дать возможность не только сформировать в сознании существа модель внешнего мира, но сделать это в совокупности с моделью самого себя в нём. Теперь решения принимаемые существом делаются уже не только с учётом опыта получаемого от внешних по отношению к нему самому источников данных, но и на основе данных о собственном же процессе анализа этих данных и его состоянии соответствующем той или иной ситуации внешней модели.

Как мне кажется таким образом и появился концепт "Я" который искал Пенроуз. "Я" - это и есть эта самая внутреняя мета-модель или "модель модели" сформировавшаяся в сознании как обособленноё внутреннее представление себя как фигуранта объектной среды.

Это также позволило подвергать анализу не только поведение и его адекватность внешней ситуации, но и саму логику принятия решений тоже сделать предметом анализа и принятия решений.

Вот такая вкратце теория.

Да, я согласен с этими тезисами.

Правда, "двух половин" разделенных зеркалом как бы нет. Хотя это неплохая метафора. Есть в целом процесс сознавания любых элементов чувственного опыта, рефлексия. В том числе и рефлексия самой рефлексии.

Рефлексия действительно позволяет строить модели поведения в реальном мире, представляя таким образом взгляды и устремления. Обнаруживая во внешнем мире ситуацию, отраженную в наших представлениях мы начинаем вмешиваться в ситуацию, пытаясь использовать ее себе на пользу.

  • 1
?

Log in