# И И: к вопросу о дефиниции

Леонид Александрович Ашкинази

И И: к вопросу о дефиниции


Прочтение эссе А.Н.Поддьякова "Атаки на семантические сети и машинное обучение: нарративы, шутки и угрозы" (Троицкий вариант, 2022, N 358) возымело лично для меня два следствия. Поскольку общество -- это сеть, хотя не вполне семантическая, то можно углядеть параллель между хакерскими атаками на искусственный интеллект и успешной деятельностью геббельсоидов, которые убедили миллионы, что снег в видимой части спектра черный, а ворона -- так люминесцирует, что бела на вид. Сама по себе эта параллель тривиальна, но нет ли более существенного сходства? Во-вторых, при пересказе указанного эссе моим ученикам, одна из учениц, Д.А. (я преподаю вот тут -- FMSH.RU) спросила -- а может ли искусственный интеллект превратиться в естественный и наоборот? Вопрос поразил, перепуганный мозг кинулся было под защиту определений, но оказалось, что главного -- чем отличается ИИ от ЕИ -- мы не знаем. Определения -- даже в полугуманитарном смысле -- нет.


Можно, конечно, что-то пролепетать про мемристоры и нейристоры, но это не тот уровень ответа, который устроит учеников. Можно апеллировать к психологии, и мудро заметить, что наличие ЕИ у собеседника нас не удивляет, а даже подозрение на наличие ИИ у японского унитаза может вызвать сильные эмоции у ЕИ. На это ехидные собеседники могут заметить, что по нынешним временам -- не наоборот ли? И предложат способ отличия ИИ от ЕИ -- по наличию и отсутствию эмоциональной реакции на ИИ и ЕИ; способ хорош замкнутостью, как сепульки и сепулькарии, а плох тем, что получается четыре варианта, а мы отправились в лес за двумя.


Попутно заметим, что объем опубликованного по проблеме ИИ не обязательно говорит о важности оной проблемы для импортозамещения и прогресса человечества вообще; он может быть следствием, скажем так, эмоциональной важности. То есть успешного паразитирования пишущих на страхах читающих. А вот интересно, страхи читающих -- они Е или И? Может быть, Е, но И-раздутые? Не где-то ли рядом лежит ответ на вопрос, с которого мы начали?


Традиционный путь возникновения и развития науки таков: интуитивное -> кодирование -> согласие -> продвижение. То есть имеем какое-то интуитивное представление (например, об "энергии" или "должном"), какое-то время, завернувшись в простыню и прохаживаясь, дерем глотку по-древнегречески (автор этой заметки это делал, но не у Кащенко, а в ролевушке), потом, когда надоест, разрабатываем систему терминов (понятий, определений, связей и т. д.), чтобы хоть как-то друг друга понимать, достигаем какого-то согласия (с "энергией" это получилось, с "должным" -- пока не очень) и начинаем продвигать науку дальше (то есть опять простыня и прохаживаться).


Поскольку интеллект (и ИИ, и ЕИ), как кусок, явно шире рта, пойдем по традиционному пути -- разбиением на куски (как иные торты -- нарезав и проложив неадгезивной пленочкой). Поскольку в терминах "ИИ" и "ЕИ" есть нечто общее (вторая буква), то и куски должны иметь нечто общее, то есть должны иметь отношение к интеллекту. А если среди них мы обнаружим комплементарную, как транзисторы, пару, но существенно разнящуюся по доле первой буквы, то продвинемся в понимании. Причем продвинемся даже в чисто дискретном случае, то есть если сами куски будут чисто И, или чисто Е. Ибо если таких пар будет более одной, у нас возникнет шкала различий -- дискретная, но, по крайней мере, метрическая. А если сами куски могут быть частично И или Е, или/и мы введем "веса", то, возможна и непрерывная метрическая шкала. Итоговым параметром разума мы будем, естественно, считать сумму произведений параметров кусков на их вес; веса определим опросом респондентов. То есть выясним, что именно воспринимает пипл как Е и И, если речь идет о ЕИ и ИИ. Потом, конечно отнормируем, чтобы диапазон был от 0 до 1, или, традиционно и скрепно, от 0% до 100%.


Приколись, пипл: мы поломали примитивную дихотомию "ИИ или ЕИ", ввели понятие степени искусственности, ИЕ-индекс, причем с непрерывной шкалой. Примерно так: "- Смотри, милая, -- какой мужчина, какой размер ноги, какой интеллект, естественный на 31,4%, ИЕ-индекс 0,314! - Да ты что, откуда ты это взяла, максимум 0,2718!"


Фантасты уже давно всякие гибридные, то есть промежуточные между ИИ и ЕИ варианты, рассматривают (и это вполне заслуживает отдельной статьи). Но тут перед нами оказывается традиционный камень с тремя стрелками -- куски могут быть, материальные и информационные, а информационные -- на вход, то есть относящиеся к обучению, и на выход, то есть функциональные. Рассмотрим эти три группы последовательно, обращая внимание на возможность изменения их собственного фактора ИЕ-фактора, и их вклад в восприятие ИЕ-фактора целого объекта. А стало быть, и возможность изменения этого фактора у всего объекта -- с чего, собственно, мы и начали.


Начнем с функционального куска, благо он один. Функция у интеллекта одна -- решать задачи; но что его характеризует? Мощность (скорость решения в зависимости от сложности), универсальность (для разных задач), стабильность (независимость от эмоций и стресса). Кажется, что ИИ должен по этим параметрам отличаться от ЕИ, и язык это отражает -- фраза про человека "ну, он мыслит, как компьютер" будет собеседником понятна. Но эта же фраза говорит о том, что бывают люди, которые удивляют значениями этих параметров. И ничего страшного, мы продолжаем их считать людьми. Разве что очень высокая мощность, то есть на уровне хорошего компьютера, может служить надежным признаком ИИ. В остальных случаях этот признак если и может использоваться, то с малым весом. Соответственно, и изменение этих параметров мало о чем говорит, разве что потеря способности разлагать на два простых сомножителя длинные числа. И то мы скажем "ИИ сломался", а не "ИИ превратился в ЕИ".


Здесь уместно вспомнить общение Криса Кельвина с компьютером станции Солярис: "Мой мозг может быть поражен болезнью, но он не в состоянии -- ни при каких условиях -- произвести расчеты, выполненные большим вычислителем Станции, потому что они потребовали бы многих месяцев". Кстати, именно этот компьютер позже обрел ИИ, сведения об этом скоро будут опубликованы в журнале "Млечный путь".


Что касается функций интеллекта, то А.Н.Поддьяков указал, что у интеллекта есть еще одна функция -- придумывать задачи. Причем есть хорошие решатели кем-то поставленных задач, но как постановщики они не очень; и хорошие постановщики, которые сами с поставленной ими же задачей могут и не справиться, и в дело вступят другие люди. Поистине поразительно, что преподаватель забыл об этом -- ставить задачи умеют даже кошки перед котятами (сам видел), а уж преподаватели занимаются этим непрерывно. Причем "ставить" и "решать" переплетены сильнее, чем кажется. В физике решение поставленной природой задачи часто начинается с ее упрощения -- а это уже постановка. В математике для такой промежуточной задачи есть даже специальное слово -- лемма.


Обратимся к кускам, относящимся к получению информации, к обучению. Информация и программы, которыми располагает ИИ, могут быть просто в него переписаны (рекомендую USB4), c ЕИ это пока не реализовано, хотя фантасты на данную тему развлекаются издавна. Разумеется, программы -- это тоже информация, но усвоение информации и программ происходит по-разному, поэтому они здесь и разделены. Информация может сопоставляться с уже имеющейся, а программы могут сопоставляться с уже имеющимися программами. Возможные последствия -- отторжение нового или старого, внесение коррективов в новое или старое, построение комбинированной картины, поиск дополнительной информации. Можно ожидать, что реакция ЕИ окажется более разнообразной, чем реакция ИИ. В частности, потому, что ЕИ изначально (то есть генетически) более разнообразны.


Степень способности критически отнестись к сообщаемой информации и программам может считаться признаком ЕИ. В какой-то мере она может быть реализована и в ИИ, причем, посредством соответствующих программ -- и постфактум. И в этом смысле, можно, если и не превратить ИИ в ЕИ, но -- в зависимости от веса, который мы присвоим этому параметру, -- сдвинуть итоговое значение ИЕ-индекса к Е-концу шкалы. Можно и в обратную сторону -- у ИИ можно отключить соответствующие функции, а у ЕИ можно соответствующим воспитанием (в интернете сказали бы -- зомбированием) ослабить эту способность. Кстати, спросите социологов -- они подтвердят, что изрядный процент дорогих россиян, братьев и сестер, спокойно отмечает в анкетах логически не совместимые выборы. Здесь уместно вспомнить моего преподавателя философии, Ю.П.Трусова, который однажды высказался примерно так: "Философия -- это вовсе не то, что обычно под этим понимают. Это внутренне не противоречивая, адекватная окружающему миру, и достаточно полная система взглядов (тут он сделал правильную паузу), которая со временем складывается в мозгу у некоторых людей".


Процесс программного наполнения может реализоваться (и для ЕИ, и для ИИ), по крайней мере в разных режимах. Режим чистого учебника, когда в обучаемого просто вводится учебный материал (и сопоставляется, либо не сопоставляется с уже имеющимся материалом -- это замечание повторять не будем). Режим учебника с взаимодействием с реальным миром, когда вводимый материал сопровождается лабораторными работы или подключением (напрямую или через интернет) к приборам, направленным на мир. Режим учебника и задачника с модельными задачами. Режим учебника и задачника с задачами из реального мира. Понятно, что с ИИ у нас ассоциируется начало списка, а с ЕИ -- его конец. Причем кажется, что для определения ИЕ-индекса этот пункт более важен, чем предыдущий.


Заметим, что -- аналогично предыдущему -- варианты с взаимодействием с реальным миром должны предусматривать обработку неполного совпадения модели и мира. Этот блок, как и при любой педагогике, управляем (одна ручка -- отношение учебник/задачник и две ручки -- степень контакта с миром для учебника и для задачника), и, соответственно, в некоторой мере управляем и суммарный индекс. Причем в соответствии со сказанным выше о возможности разной эффективности для постановки задач и для решения, может оказаться, что для конкретного интеллекта этот индекс различен, если речь идет о постановке задач и о решении.


После обучения начинается -- не все в это верят, но это так -- жизнь, то есть общение и работа. С одной стороны, как бы мы не давали определения и как бы не измеряли, человек не любит изменять свои мнения. И если мы уже назвали какой-то интеллект искусственным или естественным, нам будет трудно изменить свое мнение. С другой стороны, капля -- посредством гидравлического удара, -- точит камень, и если эта кукла с транзисторами и нувисторами внутри, день за днем, и ночь за ночью, проявляет чисто человеческое понимание? И не важно, что я не могу тебя взять на руки и что твои ноги оставляют на песке слишком глубокие следы (Станислав Лем, "Маска").


Теперь -- материальное, два аспекта, внутренний и внешний. Внутренний -- ЕИ состоит из нейронов, ИИ из болтов и гаек. У Станислава Лема ("Звездные дневники Ийона Тихого. Путешествие двадцать первое") некоторые персонажи имели два мозга, один возили не тележке перед собой, другой сзади, для размышлений высших и низших. Правда, были эти мозги в смысле ИИ и ЕИ разными или нет -- пан Станислав не сообщил; но не исключено. Тут просматривается некая связь с фразой "задним умом крепок", но не будем отвлекаться. Кстати, есть ли в фантастике сюжет, когда внешне единый объект является носителем двух интеллектов? И не начнут ли они конфликтовать? Я знал человека (М.Г.), которая была близка к обладанию двумя интеллектами, и они в ней уживались вполне мирно.


Мозг, частично состоящий из нейронов, частично из многоколлекторных транзисторов (ходят слухи, что бывает -- и из многоэмиттерных, но кто ж верит слухам), -- уже несколько лет, как реальность. И если изначально хочется присвоить ИЕ-индекс в соответствии с их долей в коре, то что мы скажем, когда моя радость признается мне...


... как-то раз, ласково запуская пальчики в мою гриву, признается мне, что не две полосочки, а что она раз в неделю (днем, в четверг) ходит (ну, ты понимаешь, куда), я выбрала самый дорогой и надежный центр (да, это на деньги, что ты мне подарил на день рождения) два процента за раз (быстрее не рекомендуют) так что еще полгода и все, буду думать втрое быстрее, и гарантия от Альцгеймера и всех прочих гадостей (может и тебе, милый, об этом подумать) твои нейрончики (они уже не молоды) сделаем как и мне, графеновые, я тебя еще больше любить буду, я уже сейчас тебя больше люблю, (ты ведь заметил?) ведь втрое быстрее, это не шутки, а так и ты будешь втрое...


Так что дело, как ни странно, не в болтах и гайках, а в том, как это будет подано, как это проявится внешне, и в нашей реакции. Общество вполне может быть расколото, и половина, спасая свою жизнь и жизнь своих переведенных на графен подруг, будет стрелять из окон в жаждущее крови быдло...


Обиваем стены покрытиями, исключающими рикошет. Пуленопробиваемое стекло высшего класса. Автоматические бронеставни. Сэм Кольт сделал нас равными. Защити завтрашний день. Работаем 24/7.


Внешний вид -- второй материальный аспект. Но и здесь не все просто. Некоторые авторы упоенно пишут, что самое страшное -- когда робот (подразумевается с ИИ) похож на человека. Если бы это было так, то фирмы, выпускающие сексуальных кукол, не разорились бы только потому, что даже не вышли бы на рынок. Между тем, они вполне процветают, и понятно почему -- с куклами меньше проблем, чем с постоянными и квазипостоянными подругами, и меньше риска, чем с разовыми. Впрочем, история техники говорит, что конкуренция способствует, так что и ЕИ, и ИИ -- в любом случае мы все выиграем.


Что касается управляемости внешнего вида, то у ЕИ она -- особенно с учетом успехов пластической хирургии -- заметна, а у ИИ почти безгранична. Но у ЕИ она пока что не направлена всерьез на имитацию ИИ, ни на уровне пластической хирургии, ни на фэшн-рынке; хотя в мире ролевых игр это есть. Что касается ИИ, то имитация ЕИ, попросту говоря -- антропоморфность, более чем естественна. Можно осторожно предположить, что возникнет две моды -- максимальная антропоморфность и некая "собственная мода", близкая к человеку, но с небольшим и четко обозначенным отличием. Это уже сейчас можно видеть на картинках. Значимость этого фактора для людей может быть определена психологами и социологами, и соответственно -- вклад в ИЕ-индекс.


В заключение -- немного об обществе. Распространенная некорректность -- применение к описанию общества психологических терминов (общество напряжено, общество испугано и т. п.). Тырить у психологов термины можно, но нужно не просто попугаить, а давать определение, объяснять, как измеряли и вычисляли. Можно попробовать ввести термин "интеллект" для общества, определив его через, естественно, способность решать и ставить задачи (причем решать и декларируемые, и не декларируемые). Тогда интеллекту общества можно будет приписать не только (см. выше) уровень, спектр и устойчивость, но и ИЕ-индекс. И может оказаться, что неумение и нежелание сопоставлять и думать сдвигает общество не только к миске с баландой, но и к И-концу шкалы. Причем именно в варианте болтов и гаек.