BTR

digitid


Проект "Цифровая личность"

DIGITal IDentity


Previous Entry Поделиться Next Entry
Поспорим с Пенроузом
BTR
digitid
 Подкинули тут доказательство Пенроуза к осмыслению причин невозможности создания сильного ИИ алгоритмическими методами (т.е. используя Машину Тьюринга, из чего следует, используя любые существующие вычислительные системы, включая возможные квантовые компьютеры).

Собственно доказательство, которое я изучал находится здесь http://polbu.ru/penrose_mindshadows/ch20_i.html
Откровенно говоря, впечатление о мошенничестве и подмене понятий меня преследовало от самого начала чтения первых строк.

Во-первых доказательство строится от бесконечности рядов и множеств чисел, с которыми оперирует Машина Тьюринга.
Во-вторых понятие алгоритмизирумости сведено исключительно к понятию вычислимости в самом его вульгарном смысле - т.е. вычислимости в рамках исполнения каких либо операций с этими самыми числами.
Ну и в третьих делается два глобальных вывода. Вывод первый, дескать Гёдель доказал, что акт вывода новых знаний не может быть формализован в рамках старых знаний и известных операций над ними. И вывод второй, оказывается, что по этой причине создание сильного ИИ - невозможно.


Начну с самого главного. Действительно, оперируя только числами, используя строго заданный набор операций над их множеством, вывести новое знание о сущности самих операций - нельзя. Это как минимум - глупо.

Действительно, осознание того, что используемые в наблюдениях объекты являются отражением неких дискретных множеств или непрерывных полей - это сам по себе акт разума. Однако, учитывая то, что единственное, чем занята когнитивная функция - это именование, то такой акт разума сам по себе имеет всего лишь один уровень рекурсии. Кроме именования собственно воспринимаемых объектов стоит именовать еще и разные способы такого именования.

Возвращаясь к доказательству Пенроуза его несостоятельность обнаруживается в момент замены операций над числами операциями над свойствами чисел и свойствами операций над числами. Иначе говоря, чтобы делать математические выводы, нужно исследовать не последовательности чисел, рассчитывая их комбинации для подтверждения или опровержения суждений, а нужно исследовать свойства самих этих суждений и свойства тех множеств и операций над множествами, которые рассматриваются в этих суждениях.

Далее, переход от "доказательства" невычислимости к невозможности моделирования разума. 
Человек не оперирует только двумя состояниями суждений "истина" или "ложь". Это чистая заморочка математики, а вовсе не разума человека.

Реальный человек оценивает суждения как "похожие на правду", "похожие на неправду", "кем-то проверено, что правда", "кем-то проверено, что неправда", "строго доказано что правда", "строго доказано, что неправда", "не имеет значения для меня", "вообще не знаю для кого имеет значение", "я не знаю, правда это или неправда, хотя и согласен, что это важно для меня и для кого-то еще" - и этот перечень вовсе не закрыт.

Поэтому вывод однозначен, Пенроуз вовсе не доказал, что сильный искусственный интеллект не разрешим алгоритмическими задачами.

Нужно только отойти от ограниченности чисто математическими представлениями о функциях и ввести такие операторы для множеств как "обобщение" и "конкретизация", а не пытаться  родить какую-то атомарную функцию РАЗУМ, на выходе которой были бы некие идеальные разумные суждения, полные и непротиворечивые, какой бы мусор не подавался на вход.

На подобное не способен естественный разум, не нужно это и в искусственном.

  • 1
И снова не могу с вами согласится. Пусть Пенроуз и ограничивается маттеорией, но, по большому счёту, на этом основаны все современные вычислительные системы, которые в конечном счёте сводятся к абстрактным "истина-ложь". Вы предлагаете воспроизвести естественный разум искусственно, это бессмысленно - на естественный разум влияет множество факторов, таких как состояние окружающей среды, гормональный фон, сытость/голод, длительность сна... Это абсолютно бесполезные, для машины, факторы - зачем тратить время и силы для воспроизведения подобных функций?

То, что вы называете "мусор", для машины следует переработать и интерпретировать как идеальные сигналы - иначе обработать подобные сигналы не представляется возможным.

И вы так и не объяснили - зачем воспроизводить человеческий разум?

Ну во-первых, воспроизвести человеческий разум это и есть задача создания сильного ИИ. Во-вторых, не нужно сводить обработку данных к заурядным вычислениям, именно эту ошибку и делает Пенроуз. Двоичная логика реализации МТ еще не значит ограниченности обрабатываемых данных только двумя результатами. Но это уже Ваше заблуждение, хотя бы этим Пенроуз не отличился.

Позвольте, я не утверждаю, что может быть только два результата - на высших уровнях количество результатов, теоретически, не ограничено. Я говорю о том, что строятся они посредством бинарных цепочек - как следствие, алгоритм искусственного интеллекта также должен быть бинарным, либо необходимо разработать машину, с принципом работы отличным от машины Тьюринга.
Кажется, задачу, которую вы ставите, нельзя решить без биокомпьютера, либо нужно отказаться от классических основ кибернетики.

Когда кажется, говорят, креститься нужно :)
А в нашем случае - "кажется" не является доказательством, хотя и может являться вполне уважаемым частным мнением (если на нем не слишком сильно настаивают)

Алгоритм искусственного интеллекта просто должен оперировать свойствами и категориями, ровно теми же, которыми оперирует и человеческое мышление (в особенности речь идет о языке общения)

Как там представлены в рамках собственно процессов внутренние свертки этих свойств и категорий - концентрацией ли ионов на синапсах, коэффициентами отображений в системах итерируемых функций или двоичными последовательностями битов в ячейках памяти - вопрос несущественный с концептуальной точки зрения.

  • 1
?

Log in