BTR

digitid


Проект "Цифровая личность"

DIGITal IDentity


Previous Entry Поделиться Next Entry
Поспорим с Пенроузом
BTR
digitid
 Подкинули тут доказательство Пенроуза к осмыслению причин невозможности создания сильного ИИ алгоритмическими методами (т.е. используя Машину Тьюринга, из чего следует, используя любые существующие вычислительные системы, включая возможные квантовые компьютеры).

Собственно доказательство, которое я изучал находится здесь http://polbu.ru/penrose_mindshadows/ch20_i.html
Откровенно говоря, впечатление о мошенничестве и подмене понятий меня преследовало от самого начала чтения первых строк.

Во-первых доказательство строится от бесконечности рядов и множеств чисел, с которыми оперирует Машина Тьюринга.
Во-вторых понятие алгоритмизирумости сведено исключительно к понятию вычислимости в самом его вульгарном смысле - т.е. вычислимости в рамках исполнения каких либо операций с этими самыми числами.
Ну и в третьих делается два глобальных вывода. Вывод первый, дескать Гёдель доказал, что акт вывода новых знаний не может быть формализован в рамках старых знаний и известных операций над ними. И вывод второй, оказывается, что по этой причине создание сильного ИИ - невозможно.


Начну с самого главного. Действительно, оперируя только числами, используя строго заданный набор операций над их множеством, вывести новое знание о сущности самих операций - нельзя. Это как минимум - глупо.

Действительно, осознание того, что используемые в наблюдениях объекты являются отражением неких дискретных множеств или непрерывных полей - это сам по себе акт разума. Однако, учитывая то, что единственное, чем занята когнитивная функция - это именование, то такой акт разума сам по себе имеет всего лишь один уровень рекурсии. Кроме именования собственно воспринимаемых объектов стоит именовать еще и разные способы такого именования.

Возвращаясь к доказательству Пенроуза его несостоятельность обнаруживается в момент замены операций над числами операциями над свойствами чисел и свойствами операций над числами. Иначе говоря, чтобы делать математические выводы, нужно исследовать не последовательности чисел, рассчитывая их комбинации для подтверждения или опровержения суждений, а нужно исследовать свойства самих этих суждений и свойства тех множеств и операций над множествами, которые рассматриваются в этих суждениях.

Далее, переход от "доказательства" невычислимости к невозможности моделирования разума. 
Человек не оперирует только двумя состояниями суждений "истина" или "ложь". Это чистая заморочка математики, а вовсе не разума человека.

Реальный человек оценивает суждения как "похожие на правду", "похожие на неправду", "кем-то проверено, что правда", "кем-то проверено, что неправда", "строго доказано что правда", "строго доказано, что неправда", "не имеет значения для меня", "вообще не знаю для кого имеет значение", "я не знаю, правда это или неправда, хотя и согласен, что это важно для меня и для кого-то еще" - и этот перечень вовсе не закрыт.

Поэтому вывод однозначен, Пенроуз вовсе не доказал, что сильный искусственный интеллект не разрешим алгоритмическими задачами.

Нужно только отойти от ограниченности чисто математическими представлениями о функциях и ввести такие операторы для множеств как "обобщение" и "конкретизация", а не пытаться  родить какую-то атомарную функцию РАЗУМ, на выходе которой были бы некие идеальные разумные суждения, полные и непротиворечивые, какой бы мусор не подавался на вход.

На подобное не способен естественный разум, не нужно это и в искусственном.

  • 1
Когда кажется, говорят, креститься нужно :)
А в нашем случае - "кажется" не является доказательством, хотя и может являться вполне уважаемым частным мнением (если на нем не слишком сильно настаивают)

Алгоритм искусственного интеллекта просто должен оперировать свойствами и категориями, ровно теми же, которыми оперирует и человеческое мышление (в особенности речь идет о языке общения)

Как там представлены в рамках собственно процессов внутренние свертки этих свойств и категорий - концентрацией ли ионов на синапсах, коэффициентами отображений в системах итерируемых функций или двоичными последовательностями битов в ячейках памяти - вопрос несущественный с концептуальной точки зрения.

  • 1
?

Log in

No account? Create an account