Искусственный интеллект: иллюзия безопасности мореплавания - Морские вести России

Искусственный интеллект: иллюзия безопасности мореплавания

17.06.2022

Образование

Искусственный интеллект: иллюзия безопасности мореплавания

Фото: Rolls-Royce plc

Телевизионное шоу «Удивительные люди» и другие подобные передачи наглядно свидетельствуют, что человек еще далеко не исчерпал своих возможностей. Чем же объяснить, что людей, обладающих удивительными способностями, не так уж и много? Это можно сравнить с такой ситуацией, подобной тому, как на лесной поляне ночью горит костер и за пределы круга освещенности выходить мешает нам страх. Точно так же страх мешает человеку выходить за пределы обыденности. Выходить за пределы «круга» – это удел одиночек.

Николай Григорьев, профессор кафедры технических средств судовождения имени профессора Е.Л. Смирнова ГУМРФ им. адм. С.О. Макарова»

Артур Григорьев, инженер-механик судовых ядерных энергетических установок, директор по развитию ООО «РТС»

Потребности прогресса в сочетании с недоверием самому себе привели к потребности замены некоторых интеллектуальных функций человека искусственными – механистическими. Термин «искусственный интеллект» (ИИ) стал настолько расхожим, что его употребляют как к месту, так и не к месту. Этому способствует стремление быть на гребне волны успеха и популярности, что не всегда оправданно, поскольку вносит сумятицу в реальное состояние проблемы по созданию искусственного интеллекта.

Интеллект и искусственный интеллект

Современные технологии позволяют решать грандиозные задачи, однако увлечение и очарование компьютерными возможностями зашли довольно далеко – в область человеческой психики, где человек теряет свою индивидуальность. Потеря индивидуальности чревата потерей свободы и воли. Слепое доверие механизмам, когда роль человека низведена до примитивных действий, приводит к стагнации мыслительных процессов и, как результат, к деградации личности. В последнее время все чаще прогресс увязывается с ИИ.

Но, прежде чем перейти к понятию искусственного интеллекта, полезно выяснить, а что же такое интеллект? Согласно Collins Dictionary of Sociology: «Интеллект (intelligence) – умственная способность человека или потенциал рациональной мысли и поведения. Природа и измерение интеллекта – одна из наиболее дискуссионных тем в социальных науках. Основной вопрос касается того, что мы обозначаем данным понятием. Ранние теории принимали очень узкий диапазон когнитивных способностей – абстрактное рассуждение, понимание и память, – хотя и делали акцент на существовании общего фактора интеллекта, присущего всем видам мастерства (например, Спирмен), противопоставляя его множеству различных первичных умственных способностей (например, Тёрстоун).

Современные ученые склоняются к расширению понятия, чтобы охватить практические решения проблем и творческий потенциал. Второй вопрос – то, в какой мере интеллект наследуется биологически или приобретается в результате опыта среды и социализации. Для его прояснения было изобретено множество методов, включая изучение идентичных близнецов и приемных детей, но соотношение воздействия наследственности и окружающей среды остается не выявленным. Важное значение для образовательных процессов имеют модели характера интеллекта. Одна из них находит выражение в когнитивных теориях развития, подчеркивающих роль интеракции между унаследованным потенциалом и влиянием среды. Этот подход иллюстрируется в работах Пиаже (1932) и Брунера (1968), где оба автора идентифицируют качественно разные стадии умственного развития и усвоения. Они оказали значительное влияние на структуру образования в последние десятилетия».

И, как следствие не вполне вразумительного определения, логичным представляется переход к термину ИИ.

«Искусственный интеллект и искусственное сознание (artificial intelligence and artificial consciousness) – «интеллектуальная» способность, подобная человеческой, присущая, как утверждалось, некоторым машинам, особенно компьютерам, которые основаны на подражании поведению нейронов. Фрэнсис Крик в «Удивительной гипотезе» (1994) доказывает: если поведение реальных нейронов – основа сознания, тогда целесообразно начать разработку искусственного сознания посредством искусственных нейронов. Однако такие прогнозы спорны ввиду сложности человеческого мозга и взаимосвязи его сознания и эмоций, включая волю» [David Jary, Julia Jary. Collins Dictionary of Sociology. Vol. 1].

Данные определения, как, впрочем, и другие из иных источников, ясности не внесут. Удивляться этому не приходится: если границы имен существительных, обозначающих предметы и вещи, вполне определены, то термины, которые касаются нематериального мира, границ не имеют. Именно к таким терминам и относятся слова «интеллект» и «сознание», которые, как это следует из приведенных выше определений, коррелируют.

Магия терминологии

Не будучи неспособной охватить проблему целиком, наука прибегает к стандартному приему – целое разлагается на части, полагая, что – подобно голографии – часть содержит в себе целое.

Несмотря на современные успехи в области квантовой физики, механистическое мировоззрение продолжает доминировать в сознании ученых, занятых прикладными задачами, в частности в области искусственного интеллекта. Знаменитый тезис Лапласа, что существо, способное охватить всю совокупность данных о Вселенной в любой момент времени, могло бы не только предсказать будущее, но и до мельчайших подробностей восстановить будущее. Представление о Вселенной как о простой и однородной оказывало и продолжает оказывать влияние на мышление научных работников, которые, в рамках классической физики, берутся решать проблемы, лежащие в области квантовой физики.

Все это удается в условиях детерминированного протекания процессов, поскольку, в рамках классической физики, традиционная наука сконцентрирована на однородности, которой свойственна устойчивость и равновесие. К рассмотрению принимаются главным образом замкнутые системы, в которых доминируют линейные соотношения, когда на малый сигнал на входе система реагирует малым откликом на выходе.

Совсем иной представляется парадигма Ильи Пригожина, когда внимание акцентируют на аспектах нелинейности соотношений, когда даже малый сигнал на входе может вызвать сколь угодно сильный отклик на выходе.

Применительно к морским профессиям допустимо считать, что деятельность механика происходит в замкнутой системе, где процессы, при исправном оборудовании, носят детерминированный характер. В то же самое время работа капитана (вахтенного помощника капитана) сопряжена с нелинейными процессами, которые привносят неопределенность в принятие управленческого решения. И это становится камнем преткновения при создании автоматизированных систем управления – беспилотное судоходство.

По мнению И. Пригожина, замкнутые системы составляют лишь малую долю физической Вселенной. Большинство же систем открыты, и к их числу принадлежат биологические и социальные системы, а это означает, что «любая попытка понять их в рамках механистической модели заведомо обречена на провал» [Пригожин И., Стенгерс И. Порядок из хаоса: Новый диалог человека с природой].

И, тем не менее, со стороны ИИ исходит угроза: «Загипнотизированные современной научной обстановкой, в которой мы родились и от которой, кажется, никуда не уйти, мы думаем, что единственная наша надежда – это все большее распространение машин, которые будут лучше нас видеть, лучше нас слышать, лучше нас считать, лучше, чем мы, лечить, – и, наверное, в конечном счете, жить лучше, чем мы живем. На самом же деле нам следует для начала осознать то, что мы можем действовать лучше, чем наша техника, и что чудовищной Машине, которая душит нас, суждено рассыпаться так же быстро, как она и возникла, – при условии, что мы завладеем рычагом истинной силы и низойдем в свое сердце методично и строго, подобно исследователю с ясным умом» [Сатпрем. Шри Ауробиндо, или Путешествие сознания].

На подступах к искусственному интеллекту

Попытки заменить живые организмы и даже человека его механическими аналогами предпринимались с библейских времен.

В текстах о царе Соломоне упоминается трон на шести ступенях, по которым поднимался царь, стояли пары золотых львов и орлов, и при нажатии на ступени звери начинали двигаться. В довершение всего орел надевал венец на голову монарха, а голубь брал из ковчега свиток Торы и клал на колени Соломону.

В «Одиссее» Гомера бог Гефест выковал собак, чтобы они охраняли дворец царя Алкиноя.

Речь, как это понятно, идет об автоматах. Термин «автоматон» происходит от греческого слова «андроид» – «человек, мужчина» с суффиксом oid – «подобие» – «человекоподобный». Автоматоны широко использовались в ритуальных целях в Древней Греции. Во время ежегодных Элевсинских мистерий были задействованы механические скульптуры богов. Геродот упоминает о говорящих фигурах на входе в храмы.

В III века до н.э. Египет был могущественной державой, где правила династия Птолемеев, которые считались поборниками искусства и науки. При Птолемеях Александрия стала центром научных исследований и родиной автоматических машин. Остались описания великолепных по масштабу и грандиозности процессий 279-278 годов до н.э., представляющих собой парад экзотических существ, костюмированных танцоров и потрясающих автоматических повозок. Вот как описывает это инженерное чудо Калликсен: «Следом за ними шестьдесят человек влекли четырехколесную повозку в восемь локтей ширины, на которой возвышалась статуя сидящей Нисы в восемь локтей высоты; одета она была в желтый хитон, шитый золотом, поверх был накинут лаконский гиматий. Эта статуя сама вставала без прикосновения рук, совершала возлияние молоком из золотого фиала и садилась обратно». Автомат достигал в высоту чуть больше трех с половиной метров, когда Ниса сидела, и четырех с половиной, когда она стояла. Логичным выглядит предположение, что появлению этого грандиозного автомата предшествовали автоматы меньшие по размерам [Речкин А. Троицкий вариант – Наука. № 11(330). 1 июня 2021 года].

В 1920 году Карел Чапек написал пьесу R.U.R., в ней автор наделил машины способностью стать двойниками человека, которых и назвал роботами, полагая, что они будут работать за человека подобно рабам.

Наделив роботов искусственным разумом, Чапек приходит к логичному заключению – от рабов следует ждать восстаний. Так зарождается страх перед машиной, в основе которого лежит комплекс классовых противоречий – комплекс Спартака.

Дельнейшую судьбу человека, утратившего когнитивные способности и передоверившего свою судьбу компьютеру в мире современных технологий, образно описал М. Волошин:

«Машина победила человека:
Был нужен раб, чтоб вытирать ей пот,
Чтоб умащать промежности елеем,
Кормить углем и принимать помет.
И стали ей тогда необходимы:
Кишащий сгусток мускулов и воль,
Воспитанных в голодной дисциплине,
И жадный хам, продешевивший дух
За радости комфорта и мещанства».

[Волошин М. «Машина» из цикла «Путями Каина».]

С появлением механических часов в Европе стали появляться механические игрушки, способные выполнять действия, подобные действиям человека. Было существенно примитизировано само понятие «человек». Своим высказыванием: «Для меня человек – это механизм» Рене Декарт заложил основу появления искусственного интеллекта; с той поры разработчики ИИ неукоснительно следуют этому принципу.

Сам же термин появился позже, и он одновременно очертил его границы, которые и стали камнем преткновения к постижению интеллекта.

Впервые термин «искусственный интеллект» применил Ален Тьюринг, но, к слову сказать, термин укоренился с легкой руки режиссера Стивена Спилберга после выхода в прокат его фильма «Искусственный разум». За термин «уцепились», и он стал «трендом».

Исходя из аксиомы Пьера-Симона Лапласа, что все в мире детерминировано и может быть описано математическими уравнениями, люди начали создавать искусственный интеллект. Тем самым примитивизировали интеллект человека, отводя ему роль слепого (зависимого) потребителя.

Верховенство компьютера над человеком происходит по той причине, что быстродействие современных компьютеров намного превосходит быстродействие человека при выполнении как поисковых, так и математических действий, прежде всего перебор вариантов и отыскание оптимального из них, например в шахматах, что позволило говорить о превосходстве искусственного интеллекта над интеллектом человека. Но «под шумок» искусственным интеллектом начали называть и самые примитивные действия роботов. Так, например, на технических выставках бродячий робот вступает в разговоры с посетителями, поворачивая на голос «головы качан», демонстрирует элементарные навыки, и он уже – искусственный интеллект.

В действительности все не так уж и просто.

Границы интеллекта

Выступая с докладом в связи шестисотлетием Венского университета, В. Франкл раскрывает причину столь стремительного натиска ИИ на интеллект: «Колесо развития нельзя повернуть вспять. В наше время, для которого характерна групповая научно-исследовательская работа, мы еще меньше, чем когда бы то ни было, можем обойтись без специалистов. Но ведь опасность заключается отнюдь не в специализации как таковой, да и не в недостатке универсализации, а скорее в той кажущейся тотальности, которую приписывают своим познаниям столь многие ученые в заявляемых ими претензиях на «тотальное знание» (Ясперс). Тогда, когда это происходит, наука превращается в идеологию. Что касается, в частности, наук о человеке, то биология превращается при этом в биологизм, психология – в психологизм и социология – в социологизм. Как мы видим, опасность совсем не в том, что исследователи занимаются специализацией, а в том, что специалисты занимаются генерализацией. Мы все знаем так называемых любителей упрощать. Рядом с ними можно поставить и любителей обобщать, как я бы их назвал. Любители упрощать все упрощают, они все мерят одной меркой. Но любители обобщать даже не довольствуются своей меркой, а обобщают свои результаты». Далее В. Франкл цитирует [London Perry. The Modes and Morals of Psychotherapy]: «Человек – это не более чем биохимический механизм, приводимый в движение системой процессов окисления, питающих энергией компьютеры».

В. Франкл так комментирует это высказывание: «Как невролог, я ручаюсь, что вполне правомерно рассматривать компьютер как модель, скажем, центральной нервной системы. Ошибка заключена лишь в словах «не более чем», в утверждении, что человек не представляет собой ничего, помимо компьютера. Да, человек – это компьютер, но одновременно он нечто бесконечно большее, чем компьютер, большее в ином измерении. Нигилизм не выдает себя разговорами о Нечто, а маскируется словосочетанием «не более чем». Американцы называют это редукционизмом. Как выясняется, редукционизм не только редуцирует у человека целое измерение; он укорачивает человека ни много ни мало на специфически человеческое измерение» [Франкл В. Человек в поисках смысла].

Укорачивая человека на целое человеческое измерение, разработчики ИИ не отдают себе отчета, что за «целым человеческим измерением» стоит беспредельность, а применительно к мореплаванию – безопасность.

ИИ, как все искусственное, имеет границы. Гомункулус, обращаясь к Вагнеру, восклицает:

«А, папенька! Я зажил не шутя,
Прижми к груди свое дитя!
Но – бережно, чтоб не разбилась склянка,
Вот неизбежная вещей изнанка:
Природному Вселенная тесна,
Искусственному же замкнутость нужна!»

[Гёте И.В. Фауст]

Про эту замкнутость сторонники ИИ говорят крайне неохотно, а говорить надо. Во-первых, превознося пользу ИИ, не забывать и о его вреде.

Параметры современных компьютеров – техническая сторона

Книга Тео Компернолле – доктора медицины, PhD, где он касается проблемы ИИ, была опубликована в 2014 году. Он пишет: «Скажу сразу: компьютерам так же далеко до человеческого мозга, как бактериям – до людей. Единственное, что компьютеры умеют делать лучше нас, – это обрабатывать большие массивы информации, особенно связанные с числами. Чтобы сымитировать работу человеческого мозга даже на самом примитивном уровне, потребуется компьютер, который будет весить 40 000 тонн и потреблять такое количество электроэнергии, какое вырабатывается тремя мощными АЭС. А заключенный в нашей черепной коробке комок мозгового вещества обладает несоизмеримо большей вычислительной мощностью, весит при этом чуть больше одного килограмма и потребляет всего 30 ватт» [Мозг освобожденный. Как предотвратить перегрузки и использовать свой потенциал на полную мощь].

На тот момент самой мощной атомной электростанцией была японская Kashiwazaki-Kariwa с чистой мощностью около 7965 МВт, занимающая площадь 4,2 кв. км. На втором месте – канадская АЭС, чистая мощность которой – 6384 МВт, а занимаемая ею площадь – около 9,32 кв. км.

Далее следуют: южнокорейские АЭС Кори мощностью 6040 МВт, Uljin с чистой мощностью 5928 МВт, Ханбит (ранее известная как АЭС Йонгван) мощностью 5875 МВт. На шестом месте Запорожская электростанция на Украине, чистая мощность – 5700 МВт. На седьмом месте – АЭС Гравелин (Франция), чистая мощность – 5460 МВт.

Завершает список топ-15 китайская АЭС Ниндэ с чистой мощностью 4072 МВт. [Источник: New-Science.ru].

На слайде приведены сравнительные данные по выдаваемой и потребляемой мощности атомного ледокола «Арктика», компьютера «Фугаку» и человека.

Очевидно, что по потребляемой мощности современные суперкомпьютеры ощутимо не дотягивают до мощности АЭС.

После публикации книги прошло восемь лет. Сегодня самым мощным признан японский компьютер «Фугаку», разработка которого началась так же в 2014 году, который является и самым дорогим. Его стоимость не оглашается, но известны предположительные затраты, выделенные на разработку, – потрачено около $1 млрд. «Фугаку» состоит из почти 159 тысяч вычислительных узлов, в каждом из которых используется ARM-чип Fujitsu A64FX.

Программа, примененная в «Фугаку», в 2021 году позволила точно смоделировать тепловую конвекцию и магнитное поле в недрах Солнца, которые в результате воспроизвели его дифференциальное вращение. При этом было достигнуто моделирование с беспрецедентно высоким разрешением. В симуляции использовались 5,4 миллиарда точек, и удалось воспроизвести дифференциальное вращение Солнца с быстрым экватором и медленными полюсами. Это позволило пересмотреть вопросы взаимоотношений энергии магнитных полей и энергию турбулентности.

Была решена грандиозная задача, но именно та, которая была предусмотрена программой и требовала, помимо высокой точности, еще и высокого быстродействия: «На основе предыдущих расчетов предполагалось, что в зоне конвекции магнитная энергия меньше турбулентной и играет второстепенную роль. Однако теперь взгляд на недра Солнца изменился – модель показала сильные магнитные поля, энергия которых более чем в два раза превышает энергию турбулентности. Кроме этого, ученые выяснили, что магнитное поле играет важную роль в создании и поддержании дифференциального вращения Солнца».

Некоторые ценовые соотношения

Поскольку в статье рассматриваются вопросы использования ИИ на судах, то нелишне – для сравнения – привести стоимости самых современных судов (без наличия на борту ИИ). Установка ИИ потребует дополнительных, сопоставимых, затрат.

«Строительство третьего и четвертого серийных атомных ледоколов типа «Арктика» обойдется в 100 миллиардов рублей, следует из материалов на портале госзакупок. Головной универсальный атомный ледокол «Арктика» проекта 22220, идет строительство двух серийных атомоходов «Сибирь» и «Урал». Предельная стоимость первого атомного ледокола «Лидер» без НДС и дополнительных расходов планируется в 98,6 млрд рублей» [Москва, 22 июля – РИА «Новости»].

Учитывая плавающий курс рубля, трудно сказать, сколько это будет в долларах.

Мозг и разум. Границы сознания

Сравнение ИИ с интеллектом человека явно преждевременное. Человек обладает еще и сознанием, что ИИ несвойственно. Поэтому ИИ находится в самом начале большого пути к интеллекту человека.

Термин «сознание» – это емкое понятие, которое в естественной среде не имеет границ. По мнению Со Ёсона, сознание – это субъективная сущность. В более приземленном варианте: «Человеческое сознание есть специфическая форма сознания, создающая модель мира и затем моделирующая его поведение во времени, оценивая прошлое и моделируя на его базе будущее. Это требует усреднения и оценки множества обратных связей с целью принятия решения и достижения цели» [Каку Митио. Будущее разума].

Что же такое сознание? У науки нет ответа на этот вопрос. Известно, что сознание – это интегрированная совокупность работы нескольких частей мозга, а не какой-то его отдельной области. Вероятно, что в процессе мышления происходит некая перегруппировка между частями мозга со сменой доминантной области. Поэтому важно понять, какая именно часть мозга за что отвечает и как работают триггерные схемы управления нервной системой. Не менее важным является то, как за счет интеграции и обработки большого количества информации, а также фокусировки на нужное и блокирования ненужного мы реагируем на сенсорные входящие потоки, что позволяет различать, что реально, а что – нет. Очевидно, что ИИ предстоит сложный путь к обретению сознания, конечно же искусственного. Для этого потребуется научиться прогнозировать поведение человека, как детерминированного, в рамках замкнутых систем, так и спонтанного (эвристического) в разомкнутых системах.

По мнению Стивена Хокинга: «Однажды поведение человека также можно будет прогнозировать и в рамках исследований головного мозга. Однако все еще невозможно подробно описать все добавляемые переменные, комбинации или взаимодействия нейронов, формирующие начальные условия поведения человека». Такую способность ИИ прогнозировать поведение человека он называл «эффективной теорией», но при этом физические теории в данном контексте С. Хокинг считает ограниченными.

Квантовая механика, в области которой происходят процессы, включающие в работу сознание, признавая многогранность реальности, не отрицает свободу воли человека. Наличие воли выводит человеческое поведение на новый непредсказуемый уровень и тем самым ограничивает возможности ИИ.

Итак, камнем преткновения при создании ИИ становится преодоление барьера, отделяющего тело от сознания. Собственно об этом пишет Стивен Хокинг в своей «эффективной теории», где признает ограниченность физических теорий: «Первоначально всеобъемлющая модель, также называемая эффективной теорией, конечно, может использоваться, но она подробно не описывает всех явлений. Это обусловлено тем, что тело состоит из атомов и молекул, но уравнения и отношения между ними не могут быть полностью воспроизведены» [Ёсон Со. Мозг и разум в эпоху виртуальной реальности].

Идея создания ИИ носит рекуррентный характер, поскольку вновь вернулись к обсуждению возможности того, что человеческое сознание и его умственную деятельность можно представить в виде физической теории. Эту точку зрения отстаивали Лаплас и Декарт. С их точки зрения, «люди похожи на механизмы». Прогресс будущего представляется в образах виртуальной реальности. Однако детерминистическая природа классической физики отрицается научной философией: «Суть жизни не может быть объяснена ни вскрытием и изучением внутренних органов тела, ни существующими физическими или химическими законами», поскольку сознание присуще только человеческому организму.

Проблемы ИИ в мореплавании

Одним из основополагающих Правил МППСС-72 является Правило 5 МППСС-72 «Наблюдение».

Согласно квантовой механике, сам акт сознательного наблюдения объекта исследования представляет собой и рассматривается на том же уровне, что и наблюдаемый объект, а такое сознание заключает в себя субъективную смысловую связь.

Сознательный акт наблюдения – а он, несомненно, сознательный, – с позиций вахтенного помощника капитана (ВПКМ), базируется на субъективной смысловой связи. А иначе и быть не может. Субъективная смысловая часть зарождается на способностях восприятия, которое частью базируется на генетических особенностях личности, а частью – на приобретенных навыках и опыте.

Реальность, созданная посредством осмысления семантических связей в рамках имеющихся вероятностей, представляет собой органический синтез, на основании которого и принимается управленческое решение. Сами же предпосылки принимаемого решения зависят от корреляции с другими факторами, включенными в ситуационную зависимость, которая определяется прежним опытом, интерференцией навыков, усталостью и другими состояниями психики человека, которые более известны под общим названием «человеческий фактор».

Реальность, созданная посредством осмысления ситуации, всегда будет носить вероятностный характер, поскольку целостной картины не будет вследствие фильтрации поступающей информации от внешних объектов. Сознание должно выбрать ту, которая является наиболее важной в сложившейся ситуации.

Здесь важно понимать, а что же такое сознание?

Определенного ответа на этот вопрос нет. Можно только предполагать, ссылаясь на научные авторитеты, что ответ находится в области квантовой физики. Неопределенность порождает вероятность, которая характеризует двойственность состояния электрона, который может предстать частицей или волной, и что зависит от наблюдателя. Наблюдая за развивающейся ситуацией, ВПКМ должен быть сконцентрирован, чтобы воспринимать ее в динамике. При адекватном восприятии ситуации и принятии адекватных управленческих решений она не перерастет в аварийную. Восприятие ситуации строится на основе органического синтеза. А, как справедливо отмечает Со Ёсон, применительно к ИИ: «Природа указанного выше органического синтеза понимается в его отношении к целому, и тем не менее пока все еще до конца нельзя определить, что представляет собой органический синтез, и из-за того, что это – сущность вероятности, его взаимосвязи с другими объектами и его положение в рамках целого тесно связаны.

Если считать, будто поведение людей действительно подчиняется законам природы, то кажется разумным следующий вывод: результат определяется столь сложно и со столь многими вариациями, что делать какие-либо прогнозы относительно поведения людей практически невозможно».

Как отмечают специалисты по созданию виртуальных тренажеров для военно-морских сил США, прогнозировать поведение человека можно только в пределах замкнутого пространства и не более чем на несколько секунд упреждения [Гиннес А. Протез любви].

При построении ИИ важно, чтобы он (ИИ) был способен воспринимать картину в целом (органический синтез), а затем отфильтровал наиболее значимую часть информации, что сделать весьма непросто, особенно в условиях интенсивной качки, которой подвергается судно в штормовых условиях.

Другой проблемой является выполнение Правила 14 МППСС-72 «Ситуация сближения судов, идущих прямо друг на друга».

Примером неопределенности может служить ситуация, когда суда оказываются на встречных или почти встречных курсах.

На основании проведенного тестирования слушатели курсов повышения квалификации при выполнении Правила 14 МППСС-72 по-разному отреагировали на ситуацию, когда линия относительного движения (ЛОД) находилась справа от курса. В то же самое время, если ЛОД проходит слева, то действия вполне предсказуемые [Григорьев Н., Наконечный М. Правила МППСС-72: неопределенность при принятии решения. Морской флот. 2016. № 05].

Неопределенность порождается тем, что вероятность адекватной ответной реакции со стороны ВПКМ, находящегося на встречном судне, непредсказуема. При этом фильтрацией информации занимаются личности разного уровня подготовки, менталитета, различных психотипов.

По мнению С. Хокинга: «Для полновесного компьютерного прогнозирования поведения человека в экстремальной ситуации нужно знать начальное состояние каждой из тысячи триллионов молекул человека и решить такое же количество уравнений. Это займет не один миллиард лет, и предпринимаемые действия запоздают».

Поэтому: «Несмотря на то что психические процессы в мозге исследуются с помощью физических механизмов, а деятельность разума рассматривается как объект этих исследований, как утверждается в рамках квантовой теории, Вселенная расширяется неравномерно, а в нашей разумной деятельности еще и наблюдаются субъективные свойства, все это вместе делает невозможным познание Вселенной». А мозг человека – это непознанная и непознаваемая Вселенная.

«На планете Земля, появившейся в результате Большого взрыва, появляется идея жизненной силы. Что-то еще происходит во время перехода от материи к живому организму, именно оно вливает в нее силы, которые не объясняются химией или физикой (курсив авторов). В частности, деятельность и строение головного мозга контролируются генами. <…> Кроме того, современные генетики считают, что мозг следует указаниям генов, что он развился из более примитивных органов тела, интерпретирующих информацию. Гены влияют на поведение и предопределяют определенные склонности или черты человека независимо от внешних раздражителей. Когда активируется ген миндалины, который хранит память, даже если попытаться проследить этот процесс через фМРТ (функциональную магнитно-резонансную томографию), трудно четко разобрать, как происходит данный процесс [Ёсон Со. Мозг и разум в эпоху виртуальной реальности].

В настоящее время создатели ИИ, несмотря на употребление таких терминов, как, например, «нейронные сети», по-прежнему осваивают лишь уровни классической физики, которые не отражают глубины человеческого мировоззрения. Классическая физика объясняет следствия многих явлений вполне успешно, но при этом не может объяснить их причины, например природу магнетизма или гравитации. Многое стало доступным на уровне квантовой физики, «которая прекрасно справляется с «подробностями», но не может объяснить мир целого».

Неоспоримым фактом является то, что в принятии управленческого решения участвуют эмоции человека, чего лишен ИИ. Безусловно, что эмоции могут способствовать принятию как успешного решения, так и неадекватного. При этом важную роль играет активность нейронов, а для регулирования активности нейронов необходимо участие эмоций, без которых фильтрация поступающей информации становится бессмысленной. Ведь на основе всей совокупности поступающей информации принять адекватное управленческое решение не представляется возможным, поскольку при отсутствии фильтрации вся информация приобретает нивелированный характер. И, следовательно, наиболее значимая ее часть растворяется в целом.

Негативное влияние современных технологий

Вопросы негативного влияния современных технологий на интеллектуальную деятельность человека – это не праздные рассуждения.

Бруно Беттельгейм в книге «Просвещенное сердце» пишет о влиянии современных технологий на интеллектуальные способности человека, что, передоверяя свои функции автомату, человек утрачивает когнитивные способности. При этом – в экстремальных ситуациях – он не способен воспроизвести эти же самые функции на более низком техническом уровне, которые ранее им же были хорошо освоены в процессе приобретения навыков управления, например, морским судном. В случаях возникновения острой необходимости даже для тех, кто уверенно владел набором навыков, столь резкий переход из сферы высоких технологий (в аварийных ситуациях) к «примитивным» классическим приемам дается уже с трудом. А, учитывая степень проникновения в сознание современного человека всесилия и отстраненности от понимания принципов работы современных средств навигации, только само возникновение экстремальной ситуации уже катастрофа, прежде всего нравственная. Человек, не совладавший с аварийной ситуацией, терпит нравственное крушение в оценке своих когнитивных способностей. Уповая на информацию, полученную от приборов, и не умея ее анализировать, человек расписывается в своей некомпетентности. Это происходит уже сейчас, задолго до появления ИИ, хоть сколько-нибудь приближенного к природному интеллекту человека. Одно дело – повторяемость обычных действий, другое – невозможность предугадать последствия действий, совершаемых в постоянно меняющемся контексте.

Сближение интеллекта и ИИ – это реальность, но перерастание ИИ в интеллект – невозможно. ИИ не преодолеть барьер, отделяющий его от интеллекта человека, так как этот барьер представляет собой скачок из области классической физики в область квантовой физики – к сознанию, которым никогда не будет наделен ИИ. Сам термин «сознание» неприменим к ИИ.

Вряд ли когда-либо ИИ будет способен подняться до уровня, позволяющего ему оперировать на уровне сознания, тем более подсознания, в котором находится большая часть информации и навыков ее восприятия. То, что понятия восприятия интеллекта и ИИ весьма далеки друг от друга, наглядно демонстрируют тренажеры виртуальной реальности, в которых упрощения сведены к минимуму информации для создания ситуации, отобранной создателями тренажеров. При этом создатели тренажеров не всегда являются профессионалами в области, для которой тренажер создается. Они консультируются у профессионалов, которые часто владеют скрытыми знаниями, но при этом не способны эти знания донести до компьютерщиков, создающих программы, а те, в свою очередь, не понимают глубины процесса, который требуется для полноты картины, позволяющей достичь сопричастности ИИ с интеллектом. На стыке двух интеллектов находится сознание, которое вряд ли когда-либо зародится у ИИ, учитывая, что сам термин «сознание» не имеет этимологических границ, поскольку даже предпосылок к этому нет. Так на стыке двух интеллектов (ИИ и интеллекта человека) возникает непреодолимый барьер.

Было бы опрометчивым отбрасывать возможности ИИ влиять на человека. Риски применения ИИ велики. «Десятки известных ученых, предпринимателей и инвесторов, чья деятельность связана с ИИ, подписали открытое письмо с призывом уделять более пристальное внимание безопасности и общественной полезности разработок в области ИИ. Среди них основатель компаний SpaceX и Tesla Илон Маск и астрофизик Стивен Хокинг.

Письмо и сопроводительный документ, составленный общественной организацией «Институт будущего жизни» (Future of Life Institute, FLI), появились в обстановке растущей обеспокоенности по поводу влияния ИИ на рынок труда и даже на долгосрочную перспективу выживания человечества в условиях безудержного роста возможностей машин.

«Потенциал ИИ огромен, поэтому очень важно исследовать возможности его оптимального использования и того, как избежать сопутствующих ловушек, – говорится в письме FLI. – Нужно, чтобы наши системы ИИ делали ровно то, чего мы хотим от них».

По мнению И. Маска, неконтролируемое развитие ИИ «потенциально гораздо опаснее ядерного оружия».

Успехи современных компьютеров. Тьюринг – музыка – шахматы

Как говорилось выше, сегодня на выставках представляют роботов, которых уже за то, что он повернул «кочан головы» и произнес трафаретные фразы, называют искусственным интеллектом. И вот тут начинается самое интересное. Всё, от самого примитивного до самых продвинутых компьютерных программ, валят в общую кучу. Правомерно ли это? Если рассматривать вопрос создания искусственного интеллекта с обывательских позиций, то существенной разницы нет. В шахматы ИИ играет, и даже вполне успешно. Ведь победила компьютерная программа Deep Blue чемпиона мира Г. Каспарова. И вот тут внимание (!): после окончания турнира репортеры брали интервью – вопреки сложившейся практике – не у победителя – Deep Blue, а у побежденного Г. Каспарова. Deep Blue заточена под одну задачу: путем перебора множества вариантов и при высоком быстродействии выбрать наиболее оптимальный вариант.

Да, скорость современного компьютера во много раз превосходит скорость мышления человека, но человеческое мышление отличается от машинного тем, что человек улавливает ситуацию целостно [Гарднер Говард. Структура разума. Теория множественности интеллекта]. Так, например, шахматисты видят ситуацию на шахматной доске. Примечательно, что если фигуры на доске расставлены в произвольном порядке, а не появились в результате игры, то шахматистам не представляется возможным ее запомнить.

При нынешнем состоянии развития технологий следует рассматривать ИИ не как замену интеллекта, а как продолжение способностей человека. Как это уже давно происходит. Когда хотим рассмотреть очень мелкое, то используем микроскоп, а пытаясь рассмотреть далекое – телескоп.

Попытки подменить интеллект ИИ первым предпринял Ален Тьюринг. В 1950 году он опубликовал статью Computing Machinery and Intelligence («Вычислительные машины и разум»), где применил новый термин – artificial Intelligence (искусственный интеллект). При создании «умной машины» Тьюринг составил программу для компьютера MADAM, запрограммированную на написание любовных писем. В результате компьютер выдал стихи вполне разумного содержания.

Он же создал тест, названный его именем. Суть теста заключается в том, что ИИ должен убедить экспертов, что с ними общается живой человек, в то время как они общаются с компьютером. До сих пор тест компьютером не пройден. Причина в том, что ИИ способен имитировать только уже существующее, но не создавать новое.

Были и другие попытки заменить человека компьютером. Например, искусственный интеллект закончил симфонию № 10, которую Густав Малер не успел закончить при жизни, базируясь на основе музыкального стиля автора. Используя современные методы компьютерных технологий, ученые попытались «воскресить» дух умершего композитора. Была создана нейросеть, которая, проанализировав первые шесть минут Десятой симфонии Малера, выдвигала свои варианты ее продолжения. Компьютер предлагал четыре варианта, которые состояли из десяти нот, а человек выбирал из них самый лучший. ИИ снова анализировал музыку и предлагал свою последовательность нот. Так, с использованием рекуррентного метода, музыкальное произведение было завершено. Опрос зрителей показал, что многие из них заметили, когда закончилось оригинальное произведение и началась часть, сгенерированная искусственным интеллектом. По их мнению, «в произведении перестала чувствоваться эмоциональная глубина». Создатели программы признают, «что хоть программа и проанализировала достаточный массив данных, ей не удается воссоздать типичные черты композитора, и слушатели могут легко заметить подвох».

«Работая над этой технологией, ученые задались вопросом, может ли быть ИИ настолько умным, чтобы самостоятельно создавать целые музыкальные произведения с нуля или же это прерогатива только человека? Пока таких программ не создано, ИИ до сих пор нуждается в человеческом контроле, чтобы «сочинить» что-то действительно стоящее. Создатели сравнивают такую функцию ИИ с написанием картин с помощью программного обеспечения: даже с появлением специальных программ картины хороших художников не теряют популярности».

Как уже отмечалось выше, сегодня попасть в семейство ИИ просто, чему активно и очень охотно способствуют СМИ. В действительности же вопросы ИИ гораздо глубже. Картезианские упрощения здесь неуместны.

Человеческая мысль «рассыпается» через синапсы подобно ртути, которая разливается из разбитой колбы, и последствия этих перемещений непредсказуемы. Из всего множества реакций мозг выбирает, путем фильтрации, те, которые неким образом связаны с деятельностью или интересами человека. При этом если человек контролирует ход своих мыслей, то некоторые из них, испугавшись, он отбросит как «крамольные». Если бы так поступали поэты, то вряд ли бы родились есенинские строки: «Выткался над озером белый свет зари…». Поток сознания в процессе творчества – это и есть подсознание, или даже сверхсознание. Только таким путем смогли мистики Индии прийти к глубинам понимания строения материи, к которым материалисты-физики пришли в ХХ веке и обнаружили, что все это, но только в иных терминах уже давно известно. Заслуга Гейзенберга и Бора заключается не только в том, что они пришли к идеям квантовой физики, но и в том, что усмотрели связь с Ведами Древней Индии. Переход от физики Ньютона к квантовой физике ознаменовал переход грани между материальными и духовными знаниями. Этот переход показал, что детерминированные процессы физического мира зарождаются в условиях хаоса, а накопление информации служит этому переходу. Следовательно, ИИ предстоит из «завалов информации», которые еще следует разместить внутри него, выстроить порядок, приемлемый для принятия адекватного решения. Здесь важную роль будут играть интеллектуальные возможности Архитектора ИИ, именно Архитектора, а не его Создателя, поскольку, при всех талантах, его разум (разум Архитектора) ограничен рамками все тех же познаний, которые он сумел накопить.

А теперь представим, что задачи по обеспечению безопасности мореплавания решают два и более ИИ от разных Архитекторов, каждый из которых усмотрел свое видение проблемы. А иначе и невозможно, ведь полученные сигналы (информация) пройдут через фильтры, которые применил Архитектор (хорошо, если он имеет морское образование и опыт работы на судах). На почве «непонимания» возникнут проблемы восприятия информации. В качестве примера может служить текст МППСС-72. Прошли десятилетия, но единого мнения по их применению нет, да и не будет. Вопросы правомерности применения Правил решают эксперты в суде, отталкиваясь от субъективных мнений, которые зародились в хаосе подсознания.

Важно понять: способности робота были и останутся продолжением способностей человека. Чтобы рассмотреть микромир, изобрели микроскоп, но ведь это не искусственный глаз. Чтобы изучать глубины космоса, изобрели телескопы.

Границы ответственности искусственного интеллекта

С внедрением беспилотного судоходства на морском флоте обязательно встанет вопрос ответственности за аварии, которые неизбежны. Уже есть примеры аварий с беспилотными автомобилями. Аварии в любой отрасли неизбежны – это плата за прогресс.

Реалии применения заключаются в том, что ИИ способен выполнять только те задачи, на которые его запрограммировали. Компьютер Deep Blue после одержанной победы над Каспаровым разобрали. В проведении матча-реванша Каспарову было отказано. Это породило сомнения в реальности победы компьютера над человеком. Каспаров еще неоднократно играл с компьютерами разных производителей и свел игры вничью.

Заключение

«Удобство» современных технологий – это обоюдоострый меч. Помогая и высвобождая человека от рутинных занятий, они одновременно ограничивают его когнитивные и мыслительные способности. Виртуальная реальность вытесняет настоящую реальность. Люди уподобляются крысам, которые следуют за музыкантом, повинуясь его мелодии, которую он исполняет на волшебной флейте. «Убаюкивание» ведет к росту «цифровых наркоманов», которые отдают на откуп реальный мир виртуальному, при этом физические и умственные способности утрачиваются. Критическое мышление заменяется слепым доверим, а реальность подменяется иллюзией.

Овации в адрес ИИ преждевременные. Сегодня речь может и должна идти об автоматизированных системах управления, которые являются продолжением способностей человека заглянуть за горизонт, не теряя при этом способности обозревать горизонт.

Бесспорно, что сумма частей никогда не будет равна целому, а целое – это и есть интеллект. А как он поведет себя и какие будут последствия этого поведения, будет зависеть от сознания, которое сформирует социум.

Полностью передоверять функции человека компьютеру опасно, потому что, поддавшись внушению о своей беспомощности, человек становится по-настоящему беспомощным.

А исходя из реального состояния вопросов применения современных технологий на морском флоте, об использовании ИИ и речи не может быть. Правильно и уместно вместо термина «искусственный интеллект» применять иную терминологию – «автоматизированные системы управления» того или иного уровня.

Применительно к использованию ИИ на морском флоте уместно высказывание Ф. Тютчева: «Мысль изреченная есть ложь», а ложь имеет глубокие последствия для умов незрелых и поверивших в нее.

Морской флот №2 (2022)

ПАО СКФ
РОСКОНТРАКТ
Газпромбанк
Международный военно-технический форум «Армия-2022»
6MX
Вакансии в издательстве
Журнал Транспортное дело России
>25 лет журналу Морские порты