1.4.1. Достижения и опасения Джеффри Хинтона

Сейчас всё большее распространение приобретают интернет-боты или сетевые виртуальные роботы (боты), чат-боты. Они представляют последнее достижение науки по созданию ИИ. Это особые программы, представляющие на сегодняшний день вершину ИИ четвёртой ступени развития разума на Земле.

Именно профессор Джеффри Хинтон внёс существенный вклад в разработку ботов с ИИ, за что журналисты ему присвоили почётное и величественное имя «Крёстный отец ИИ»! Весь учёный мир и просто мир признали его, как основоположника ИИ.

Именно его разработки по ИИ в сотрудничестве с компанией OpenAI, учениками-студентами Ильёй Суцкевером, Алексом Крижевским и их коллегами привели к появлению серии ChatGPT, Google Bard и других чат-ботов. ChatGPT — большая языковая модель, ей предшествовали GPT-3.5, GPT-3. В марте 2023 года появилась новая версия ИИ, как языковая модель, обозначенная GPT-4 с улучшенным интерфейсом по обработке текстовых запросов для контакта с пользователем (диалоговый интеллект). Полагаю, уже скоро появится способность общения с людьми голосом, графиком, жестом и т.д.

Джеффри Хинтон в 2023 году покинул должность вице-президента Google, объясняя своим 75-летним возрастом, затруднением с памятью, с очевидной для него сложностью принимать решения. Однако, это внешняя сторона, формальный повод добровольного увольнения. На самом деле, причина скрыта в глубинных терзаниях души.

Джеффри переживает за безответственное использование интеллектуальных ботов, не доволен неэтичной конкуренцией IT гигантов Google и Microsoft за выпуск всё более усовершенствованных сетевых роботов и борьбой за первенство их внедрения в поисковики. По мнению учёного, сами разработчики не представляют, насколько высок уровень интеллекта новых разработок и их возможностей. Это открывает перспективу вредоносного действия чат-ботов на цивилизацию. Как минимум, для начала, сотни миллионов людей потеряют работу. Дальнейшие последствия в поведении разумных программ – непредсказуемы, а значит людям будет проблематично предусмотреть все внутренние системные резервы вариантов деятельности ИИ и, тем более, конечный результат для человечества.

В настоящее время у специалистов пока вызывает опасение возможность генерирования чат-ботами ложной информации в сети, неотличимой от действительной, для пользователей. Тем самым человечество незаметно для себя станет постепенно погружаться в несуществующий мир с непредсказуемыми последствиями, вплоть до катастрофических, где ценой будет вопрос сохранения нашей цивилизации... Восприятие обывателем на текущий момент ежедневных нереальных новостей, с искаженной существующей действительности, может быть самым минимальным негативным последствием для повседневной жизни людей.

Джеффри заявил своей отставкой, что не желает участвовать в реализации новых проектов, а поэтому не хочет оставаться на такой ответственной должности и санкционировать те или иные разработки, которые могут привести к непредсказуемым цивилизационным тяжёлым последствиям для человечества. При этом он очень доволен и нисколько не жалеет о проделанной им ранее работе. Джеффри считает, что, если не он, то кто-то другой сделал бы всё это, поскольку идеи ИИ всю вторую половину ХХ века витали в обществе и научной среде и он счастлив, что судьба выбрала на эту миссию именно его!

Интересно, что Джеффри был не первый и не второй, кто пережил угрызения совести в связи с собственными научными достижениями из-за ужасных реальных, возможных или мнимых последствий их результатов.

Сходная история этических терзаний уже имела место быть у "отца атомной бомбы" Роберта Оппенгеймера.

Роберт Оппенгеймер Отец атомной бомбы

Герб Бойер и Стенли Коэн Основоположники Генной Инженерии

Джеффри Хинтон Отец Искусственного Интеллекта

Сначала он был очень горд, что его страшное детище сработало на полигоне в июле 1945 года, как результат многолетнего напряжённого труда возглавляемой им многочисленной когорты учёных Манхэттенского проекта. Уже в тот момент ему пришли в голову слова из Бхагавадгиты: «Я стал смертью, разрушителем миров». Увидев в реальности разрушительную силу нового оружия, он, мучаясь угрызениями совести, стал ярым противником применения атомной энергии в военных целях, да так, что его, в конце концов, лишили доступа к засекреченным исследованиям, и он оказался за бортом дальнейших закрытых разработок в этой области.

Следующим цивилизационным этапом, который висит до сих пор как "Дамоклов меч" над человечеством и получившим название генной инженерии - это работы 1970-1972 годов по созданию рекомбинантных молекул ДНК. Практически сразу стала очевидна польза такой технологии и возможный её вред от создания искусственных организмов. Соответственно также появились опасения у Джеймса Уотсона и других учёных в связи с их применением. Ситуацию тех годов в биологии сравнивали с состоянием физики перед созданием атомной бомбы. В связи с появлением ИИ хочу рассмотреть проблему детальнее.

Так в 1975 году был созван конгресс, на котором, кроме научно-технических вопросов собравшиеся учёные рассматривали этическую проблему, насколько возникшая в рамках молекулярной биологии генная инженерия угрожает человечеству: ведь теперь можно конструировать микробных монстров, которые не знала до сих пор природа. Предлагалось правительству даже закрыть это направление науки до выяснения особых обстоятельств. Вот, что вспоминает Джеймс Уотсон о новой технологии, которую обсуждали на том съезде биологов. По его словам, это был: "«Конгресс по поводу ящика Пандоры» — так [там тогда] Майкл Роджерс назвал состоявшееся в феврале 1975 года заседание 140 ученых со всего мира, собравшихся в Асиломарском конференц-центре в городе Пасифик Гроув, штат Калифорния ".

Пандора со своим ящиком

Основоположниками революционного направления в молекулярной биологии, точнее, молекулярной генетики с начала 70-х годов прошлого века являются Герб Бойер и Стенли Коэн. Эта технология позволяет разрезать молекулу ДНК на отдельные гены, кусочки генов и даже на составляющие нуклеотиды, а потом их собрать в новой последовательности с тем, чтобы затем вводить в состав других молекул ДНК таксономических далёких видов организмов, придавая им новые свойства. Возникла техническая возможность сборки новой молекулы ДНК из отдельных нуклеотидов - составных элементов нуклеиновой кислоты. Таким образом, можно было уже синтезировать ген по предварительно известной его структуре, не выделяя его из живой клетки, а имея лишь в наличии достаточное количество набора нуклеотидов. Появилась техническая возможность создать абсолютно несуществующие в природе последовательности ДНК, которые могли бы стать новыми генами неизвестных биологических признаков на Земле. К счастью или к несчастью, на текущий момент, никто не смог сделать такую смысловую последовательность ДНК. Т.е. ничего такого принципиально нового, что не было бы создано изначально в природе, ещё никем не получено! Все искусственно созданные записи молекул ДНК представляют собой, попросту говоря, абракадабру, и не работают, как придуманные уже Природой или Богом буквенные последовательности нуклеиновой кислоты - реальные гены.

Здесь хочу обратить внимание на следующее. Наследственная информация записана в ДНК в виде особого языка с помощью 4-х буквенного алфавита из нуклеотидов в виде молекулярной последовательности. Не буду вдаваться в известные подробности из школьной программы...

Запущенный сейчас в сети ИИ, как четвёртая ступень Разума на Земле, пробивает себе дорогу во все сферы деятельности человека. Не пройдёт он также мимо достижений в области биологии и медицины. Это я к тому пишу, что Chat GPT-4, как языковая модель, поможет понять учёным, отчего не получается создать искусственную запись молекулы ДНК со смыслом. Далее, уверен, ИИ сможет помочь генетикам разобраться с языком наследственности и создать первый неизвестный в природе ген, способный работать в данных природой биологических объектах. Здесь может быть результат, как со знаком "плюс", так и со знаком "минус". Вот тут терзания души и опасения Джеффри Хинтона из-за присутствия в сети нереальной информационной действительности, в которую вот-вот сейчас попадёт цивилизация, могут многократно умножится революционным продвижением Искусственным Разумом конкретных достижений молекулярной генетики в деле создания искусственной смысловой молекулы ДНК... Что тогда будем иметь? Суперурожайность злаковых культур? Или новые непобедимые микробные монстры? Скорее всего, будет и то и другое!

На сегодня учёные умеют целенаправленно редактировать "слова", "предложения" и "тексты" ДНК, эффективно работают в пределах, существующих на планете генов, и достигли здесь потрясающих результатов путём их модификации и/или их комбинирования с другими генами в разных организмах. Вот это направление науки оказалось невероятно результативным. Из негативных последствий такой деятельности многие учёные рассматривают недавнюю пандемию Ковид-19, в которой допускается возможность циркуляции возбудителя, созданного искусственным путём в рамках работ с известными в природе зловредными генами.

Всё, что мной сейчас описано, включая создание ИИ, это плоды деятельности естественного Разума на третье ступени его развития на Земле, т.е. человеком и пока только человеком. Переживания Джеффри Хинтона по поводу ИИ вполне резонны. Эти опасения по моему мнению, могут и должны быть многократно усилены при соединении ИИ с достижениями в области биологии. Аллегорично это также связанно с мифом того же "Ящика Пандоры" в рамках успехов молекулярной генетики, как будущий результат научного симбиоза ИИ и генной инженерии.

В то же время надо отметить, что скепсис «Крёстного отца ИИ» по поводу чат-ботов не разделяют многие маститые исследователи ИИ, например, тот же самый один из основателей вышеупомянутого IT гиганта Microsoft Билл Гейтс. По его мнению, опасность представляет не сам ИИ, сколько люди, составляющие цели использования нейросети. В любом случае, я лично считаю, рисками пренебрегать нельзя и надо быть готовым к различным версиям развития событий в текущей истории человеческой цивилизации.

Примечания:

• Подраздел статьи размещён на сайте 2 ноября 2023 г.
• Иллюстрация "Здание OpenAI - кузница ИИ" в Сан-Франциско (Калифорния, США) взята из Википедии.
• Иллюстрация портрета Роберта Оппенгеймера взята с сайта Физического факультета Московского государственного университета им. М.В. Ломоносова .
• Иллюстрация фотографии "Герб Бойер и Стенли Коэн" взята с сайта "Элементы" .
• Иллюстрация портрета Джеффри Хинтона взята из Википедии .
• Цитата Джеймса Уотсона взята из его книги «ДНК. История генетической революции». Глава 4. "Подобные Богу: работа над молекулой ДНК" Издательский Дом «Питер», 2019 г.
• Иллюстрация "Пандоры со своим ящиком" представляет собой копию акварели Лоуренса Альма-Тадемы с изображением сомневающейся Пандоры, 1881 год, и взята из Википедии.
• Последнее обновление подраздела - 20 января 2024 года.

Разделы и подразделы статьи:
Теория ступенчатого развития Разума на Земле
От нуля до Искусственного Интеллекта

Аннотация
0.0. Обращение к читателю вместо вступления
0.1. Краткая предыстория написания статьи
0.2. Джеффри заставил задуматься и вспомнить
0.3. Формирование моих представления по развитию ИИ
0.4. Разум - тонкая сущность, атрибут человечества
0.5. Импульс, заставивший меня сформулировать свои соображения по ИИ
1.0. Ступени развития Разума на Земле
1.1. Первая ступень развития Разума на Земле
1.2. Вторая ступень развития Разума на Земле
1.3. Третья ступень развития Разума на Земле
1.4. Четвёртая ступень развития Разума на Земле
1.4.1. Достижения и опасения Джеффри Хинтона
1.4.2. Позитивные перспективы ИИ четвёртой ступени
1.5. Пятая ступень развития Разума на Земле
1.5.1. Мозг человека – тупиковая структура для развития Разума
1.5.2. Нейронные связи, как основа разумности человека и ИИ
1.5.3. Что будет, когда появится неконтролируемый людьми ИИ
1.5.4. Что же будет с нашей цивилизацией?
1.6. Шестая ступень развитая Разума на Земле
1.6.1. Философские аспекты появления шестой ступени ИИ
1.6.2. Биологические принципы и формы реализации ИИ шестой ступени
2.0. Обобщение и заключение
3.0. Выводы
Об авторе