Биоэтические и богословские проблемы в связи с технологией искусственного интеллекта (ChatGPT)

АННОТАЦИЯ

к работе «Биоэтические и богословские проблемы в связи с технологией искусственного интеллекта (ChatGPT)»

Автор: Преосвященнейший Николай (Хадзиниколау), митрополит Месогийский и Лавреотикийский, доктор философии Гарвардского университета, Массачусетского технологического института, Университета им. Аристотеля в Салониках

Технология искусственного интеллекта и ее последние удивительные продукты, такие как ChatGPT, вызвали страхи, скептицизм, острые конфликты, а также отставку высокопоставленных должностных лиц соответствующих компаний, поскольку все это знаменует собой настоящую революцию в жизни человека, которая переходит ненарушимые границы — производит оригинальные изображения, видеоролики, архитектурные идеи, музыкальные произведения, искусно написанные тексты, все более похожие на созданные людьми или даже превосходящие их.

По мере того, как происходит технологическая имитация человеческого мышления и логики, а также появляются новые формы и способы коммуникации, создается новый вид виртуального существа с ограниченной свободой выбора, дегенеративной самостоятельностью и механизированной идентичностью. Это технологическое существо не похоже на человека биологически и эмоционально и не имеет его моральных достоинств и недостатков, но при этом наделено знаниями, речью и творческим мышлением и, таким образом, способно к коммуникации. Оно обладает возможностями безошибочной работы, однако без гарантий безошибочности. Его знания не подчиняются его собственной воле, поскольку оно не имеет воли. Его сила и ценность, если таковые имеются, проистекают из его огромных возможностей, но не из его добродетелей. Рядом с человеком, созданным по образу и подобию Божию, появляется человеческая технологическая конструкция, лишенная свойств живого существа, но выражающая себя как гуманоид, как мыслящая логическая сверхмашина, лишенная красоты человеческой асимметрии.

Существует реальная опасность поверить, что люди действуют подобно компьютерам во плоти и что они подобны машинам, обладающим мышлением и интеллектом, с которыми мы можем общаться. Общение происходит без общности, свободное мышление подчинено массиву информации, а человек — цифровой машине. Человек — это порождение любви, и любви Божественной, в то время как продукты искусственного интеллекта — это порождения человеческой гордыни. Уже обозрима вероятность того, что нечеловеческий интеллект создаст новый мир, подверженный дезинформации, или что появятся новые идеологии, новые культы, новые концепции нравственности, новая культура — совершенно чуждые уже существующим.

Люди не имеют острой потребности в искусственном интеллекте; они нуждаются в Божественной мудрости. Первое может принести разрушение; второе гарантирует жизнь. Современный мир больше, чем когда-либо прежде, нуждается в свидетельстве нашей Церкви о ее Вечной Истине.

СОДЕРЖАНИЕ

I.    Появление искусственного интеллекта

II. Диалог с чат-ботом на базе искусственного интеллекта ChatGPT-3

III. Биоэтические проблемы

Преимущества и недостатки искусственного интеллекта

IV. Богословские размышления

Превосходство человека

Научное всезнание и технологическое всемогущество

Сомнение в Боге и самообожествление

Интеллект и мудрость

Взаимоотношения человека и его виртуального технологического образа

Идолопоклонство или новая антропология?

I.Появление искусственного интеллекта

Наша эпоха, без сомнения, характеризуется беспрецедентными научными и технологическими достижениями, которые, по сути, устраняют исторически сформировавшиеся понятия и выходят за границы того, что прежде было непреодолимым для человека. Мы расщепили атом, превысили скорость звука, победили гравитацию, проникли в глубины наномасштаба, погрузились в биологические и генетические тайны, занялись воспроизведением человеческой жизни с помощью технических средств. Все эти идеи еще недавно считались фантастикой; их реализация на практике рассматривалась как чудо.

А в результате компьютерной революции, по аналогии с процессом запоминания в мозге человека, были созданы машины с огромной памятью и невообразимыми возможностями обработки данных, — это действительно нечто удивительное. Было воспроизведено не только то, что воспринимается органами чувств, но и сымитирован механизм человеческого мышления, превосходя по эффективности в том числе и такую важную его характеристику, как память.

До сих пор технологии пытались облегчить деятельность человека, увеличивая возможности, которых ему не хватало по сравнению с животными: физическую силу, скорость, продолжительность жизни, здоровье и т. д. Компьютеры пошли еще дальше: они сымитировали память и способности к вычислению, в чем значительно превзошли человеческие возможности. Тем не менее, эти машины остаются полностью управляемыми, исключительно подчиненными и строго контролируемыми извне. Поэтому они не несут прямой угрозы для человека, не нарушают его существование, но скорее облегчают выполнение некоторых его практических задач.

Кроме того, вплоть до недавнего времени генетическая информация клетки и мозг оставались неприступными. Всякий раз, когда возникали идеи вмешательства в них (психохирургия, пересадка нейронов или редактирование ДНК и т. п.), это запрещалось законом из-за возможных рисков. Однако в последние годы технологии стали все сильнее проникать в нашу жизнь. Уже говорится о технологиях, направленных на улучшение человеческих возможностей, на усиление когнитивных и интеллектуальных функций или на их механическую замену и преодоление.

Таким образом, у нас уже есть машины с «искусственным интеллектом», которые воспроизводят когнитивные функции человека, такие как обучение, планирование и творчество. Машины, которые могут «понимать» окружающую среду и принимать решения, не имея сознания. Недавно появились машины, способные вести диалог, беседовать с людьми, рассуждать, выражать свое мнение, не прибегая к другим информационным системам самостоятельно отвечать на множество вопросов, изобретать программы, необходимые для решения задач, создавать оригинальные изображения, видео, архитектурные идеи, музыкальные произведения, проекты документов, интеллектуальные тексты, подобные человеческим, — всего и не перечесть.

Таким же является приложение ChatGPT. Его достижения настолько впечатляющие, что уже высказывались мысли о столь сильном превосходстве искусственного интеллекта над человеческим, что человек никогда не сможет его достичь. И не только это. У человека создается иллюзия, что чат-бот, с которым он общается, обладает человеческим сознанием и понимает, что он говорит[1]. В результате, использование такого приложения впечатляет нас до такой степени, что становится крайне привлекательным.

Стоит отметить, что хотя компания Open AI создала и запустила платформу ChatGPT 30 ноября 2022 года, всего лишь за два месяца число ее пользователей превысило 100 миллиардов, в то время как Linkedin (2003) потребовалось 7 лет и 11 месяцев, Google Translate (2006) — 6,5 лет, Twitter (2006) — 5 лет и 5 месяцев, Facebook (2004) — 4,5 года, WhatsApp (2009) — 3,5 года, Instagram (2010) — 2,5 года, Tik Tok (2017) — 9 месяцев[2], чтобы достичь такого числа пользователей. Все эти изобретения, с одной стороны, впечатляют человека и вдохновляют его на создание новых гениальных вещей, а с другой — вызывают естественный и непреодолимый страх перед неизвестным, скептицизм по поводу бездумного применения новых технологий, напряженные споры об их опасности и, конечно же, глубокие опасения и вопросы онтологического и экзистенциального масштаба в связи с их огромным влиянием на людей.

II. Диалог с чат-ботом на базе искусственного интеллекта ChatGPT-3

Чтобы понять, о чем именно идет речь и как работает это приложение — ChatGPT, я решил обсудить тему данной работы со своим компьютером и для начала приведу наш краткий диалог.

– Можешь ли ты рассказать мне что-нибудь о биоэтических проблемах, возникающих в связи с использованием приложения с искусственным интеллектом ChatGPT?

– Искусственный интеллект стремительно ворвался в нашу повседневную жизнь, повлияв на то, как мы общаемся и думаем. ChatGPT — пример такой эволюции: это технология, которая может взаимодействовать с людьми как собеседник. Искусственный интеллект изначально поднимает вопросы о том, что значит быть «разумным» или «сознательным». Поскольку системы искусственного интеллекта типа ChatGPT становятся способными воспроизводить естественный язык и общаться с людьми, логично задаться вопросом, является ли этот интеллект реальным или просто имитацией. Это открывает путь к дискуссиям о сущности сознания и природе человека. искусственного интеллекта в чат-ботах, таких как GPT-3, вызывает различные биоэтические проблемы и споры.

Некоторые биоэтические проблемы, возникающие при использовании приложений с искусственным интеллектом, таких как GPT-3, включают:

1.  Проблема ответственности. Кто несет ответственность, когда чат-бот с искусственным интеллектом отображает контент, который может ввести в заблуждение, является оскорбительным, провокационным или опасным? Признание ответственности в таких случаях является важной биоэтической проблемой.

2.  Конфиденциальность и приватность. Использование чат-ботов с искусственным интеллектом обычно подразумевает сбор и хранение персональных данных пользователей. Как следует обрабатывать эти данные и как обеспечить конфиденциальность данных и уважительное отношение к приватности пользователей?

3.  Обучение работе с данными. Процесс обучения ИИ-чат-ботов часто подразумевает использование больших объемов данных из интернета. Эти данные могут содержать предубеждения, стереотипы и темы, ущемляющие чувства людей. Как мы можем гарантировать, что обучение чат-ботов является правильным и справедливым с точки зрения этики?

4.  Уровни человеческого участия. В какой степени должно быть разрешено вмешательство человека в работу чат-ботов? Должна ли предоставляться возможность обнаруживать и противодействовать ситуациям, в которых чат-боты совершают серьезные ошибки или причиняют вред?

5.  Социальное воздействие и зависимость. Растущее использование чат-ботов может иметь социальные последствия, такие как изоляция, зависимость от технологий и потеря контакта с людьми. Как следует управлять этими последствиями? Вышеуказанные биоэтические проблемы являются предметом исследований, обсуждений и законов, касающихся использования ИИ-чат-ботов, а также разработки руководящих принципов и политик, обеспечивающих этическую и социальную приемлемость этой технологии. Что касается богословских проблем, искусственный интеллект поднимает вопросы о месте человека в мире. Как технология взаимодействует с концепцией божественного творения и ролью человеческой души? Если искусственный интеллект приобретет передовые знания и сознание, как это повлияет на веру и религию?

На этой конференции у нас есть возможность рассмотреть эти вопросы, выслушать различные точки зрения и сформировать более полное понимание биоэтических и богословских проблем, связанных с искусственным интеллектом, например, таким, который разрабатывается сегодня с помощью чат-бота AI ChatGPT.

Благодарю вас за участие и с нетерпением жду дальнейших обсуждений. Хорошей вам конференции!

– Проанализируй для меня, пожалуйста, богословские проблемы.

– Богословские проблемы, возникающие в связи с искусственным интеллектом, таким как AI ChatGPT, являются весьма сложными и затрагивают влияние технологий на религиозные убеждения и богословские представления людей. В зависимости от мировоззрения каждого конкретного человека могут существовать разные способы восприятия и решения этих проблем. Вот некоторые из них:

1. Сознание и душа. Вопрос в том, что представляет собой человеческое сознание и душа. Если система ИИ проявляет признаки «сознания» или «мышления», то как это согласуется с верой человека в существование души, которая является Божественным аром?

2. Божественное творение. Как создание искусственного интеллекта согласуется с идеей Божественного творения? Развитие искусственного интеллекта является необходимой ступенью прогресса или же отклонением от Божественной воли?

3. Этичность использования. Как богословские концепции могут определять этичность использования искусственного интеллекта? Важно обсудить, как технологические разработки, включая ИИ, могут быть использованы против или во благо человечества.

4. Автономия и контроль. Как меняется восприятие Бога и отношений человека с Богом, когда искусственный интеллект обретает автономию и способность принимать решения без вмешательства человека? Эти богословские вопросы требуют глубокого размышления и обсуждения, поскольку они влияют на наше понимание места человека в мире, человеческой природы и наших отношений с божественным. Это обсуждение может сформировать наше восприятие технологии и ее роли в обществе и духовности человека.

Я продолжил диалог, попросив его подробнее остановиться на каждом из четырех пунктов вышеупомянутых богословских размышлений, и получил связные ответы, хотя и несколько обобщенные и довольно расплывчатые.

Интересно, что я повторял вопросы по нескольку раз в разные дни и каждый раз получал достаточно отличающиеся между собой ответы; никогда не было одинаковых, но все они были очень логичными и интересными. Здесь я представляю один из опросов от 16.09.2023 [3]. Я также перешел к другим вопросам, таким как:

– Твой ответ меня не удовлетворяет. Можешь ли ты сказать мне что-нибудь более умное?

– Чем искусственный интеллект отличается от человеческого?

– Укрепляет ли искусственный интеллект веру в Бога или приводит к атеизму?

Я попросил его сочинить тропарь святителю Николаю, причем с использованием политонической системы[4]. Конечно, в нем были некоторые грамматические несовершенства, а также и богословские ошибки. Так, в слове «ὁμολογοῦμεν» («исповедуем») он опустил конечную букву -ν. И назвал святого Николая «всемогущим» и «спасителем наших душ», которым может быть один лишь Бог. Однако в целом можно сказать, что для версии 3.54 он справился очень хорошо.

Диалог был впечатляющим и постепенно становился увлекательным. Ответы моего собеседника были составлены так, чтобы в них ощущалось терпение, мягкость, вежливость, отсутствие эмоциональных всплесков. В целом, это были весьма удовлетворительные ответы во всех отношениях.

Здесь стоит привести еще один пример, свидетельствующий об уникальных возможностях приложения ChatGPT. Совсем недавно, 11 сентября 2023 года, был опубликован один случай. У 4-летнего ребенка проявились симптомы хронической боли, причину которой на протяжении трех лет не могли диагностировать 17 врачей, чтобы назначить правильное лечение. В конце концов, мать ребенка обратилась к приложению ChatGPT, тщательно описала проявления симптомов, выписала диагнозы из имевшихся в ее распоряжении МРТ-снимков и попросила поставить диагноз. Изучив этот вариант, врачи согласились с таким диагнозом, и ребенок смог следовать соответствующему протоколу лечения[5].

III. Биоэтические проблемы

Современный искусственный интеллект во многом похож на человеческий, а в некоторых аспектах даже превосходит его. Например, современные компьютеры обладают гораздо большим объемом памяти и скоростью обработки данных. Чтó есть у искусственного интеллекта — и чего до сих пор не было у других технологий — так это способность самостоятельно принимать решения, способность учиться и самосовершенствоваться, способность самостоятельно создавать контент, способность не только создавать истории, но и интерпретировать их. В то же время приложения ИИ постепенно приобретают способность к самовоспроизведению, то есть к созданию новых, еще более совершенных приложений на основе искусственного интеллекта.

1.  Это означает, что приложение с искусственным интеллектом ChatGPT получает возможность оказывать большое влияние на людей, с которыми оно взаимодействует. Оно может неправильно интерпретировать события, представлять вымышленные или ложные факты, вкладывать в уста политиков или всемирно влиятельных людей слова, которые они никогда не говорили. Оно также может давать плохие советы и опасные инструкции. Это первая большая проблема, которая может оказаться чрезвычайно опасной или даже губительной[6].

2.  При использовании приложения с искусственным интеллектом ChatGPT чат-боты не занимаются поиском информации, а «думают» и отвечают. Они могут написать оригинальную научную работу, доклад, статью в различных областях — настолько совершенную, что даже самые специализированные рецензенты не смогут определить ее подлинное происхождение. Вопрос в том, как оценить подлинность происхождения такой работы или такой статьи. Любой желающий может легко скопировать или присвоить готовые исследовательские продукты и представить их как свою собственную идею. Как это будет контролироваться[7]? Очевидно, что опасность подделки или производства приложений с катастрофическими последствиями сейчас более чем очевидна[8].

3.  Возникающая проблема крайне важна и подлежит срочному разрешению, учитывая, что искусственный интеллект шаг за шагом и очень стремительно превосходит многие человеческие возможности, вероятно, даже способность осуществлять над ним контроль. Уже сейчас корпорация Microsoft создала мощную систему GPT-4[9] с I.Q. 124[10], и работает над моделью GPT-5, которую, скорее всего, будет очень трудно контролировать или которая будет обладать способностью производить новые знания, не поддающиеся пониманию. Как это будет контролироваться? Кто будет определять этические критерии и какими они будут? И как они будут реализованы в глобальном масштабе[11]?

4.  Другая проблема — огромный риск абсолютной зависимости от такой «живой» и рассуждающей машины. Первоначальное впечатление от диалога с машиной, обладающей невообразимой широтой знаний, а также быстрой и гибкой реакцией, сменяется неконтролируемым ощущением, что перед тобой очаровательный собеседник с непревзойденным интеллектом, с которым ты устанавливаешь отношения восхищения и… подчинения. В сочетании с легкостью решения повседневных задач, это делает использование искусственного интеллекта особенно приятным и привлекательным, способствуя развитию отношений чрезмерного пристрастия и неконтролируемой зависимости. Если даже простое использование мобильного телефона создает условия полной зависимости от него, можно представить, насколько это коснется собеседника-бота. Доказательством этого факта является стремительно растущая популярность и распространение платформы ChatGPT, о которой мы говорили выше. Из вышесказанного становится очевидным, что искусственный интеллект имеет тенденцию становиться независимым от людей, несмотря на то, что искусственный интеллект общего назначения (греч. Γενικευμένη Τεχνητὴ Νοημοσύνη), по-видимому, является делом довольно далекого будущего[12].

Однако создатель творения не должен стать его подчиненным. Если система неуправляема, она может стать очень опасной. Контроль над неуправляемой суперконструкцией — это новый великий вызов человеку; то, что продемонстрирует его непревзойденную ценность и превосходство.

Уже сейчас человеческие возможности проходят серьезные испытания. Андреас Дракопулос, президент Фонда им. Ставроса Ниархоса, в своем послании на 2024 год задал вопрос, сможем ли все мы сделать всё возможное, чтобы максимально использовать открывающиеся возможности и в то же самое время справиться с предстоящими вызовами, а также сможем ли мы сохранить человеческое лицо нашего общества[13].

Как утверждает Костас Даскалакис, выбор алгоритмов решающим образом влияет на формирование нашего мнения и имеет огромный резонанс в нашей жизни. Поэтому при создании и использовании этих алгоритмов необходимо проявлять большую осторожность как человеку, создающему эти алгоритмы, так и человеку, управляющему ими[14].

Преимущества и недостатки искусственного интеллекта

Основной вопрос заключается в том, насколько на самом деле развит искусственный интеллект. Для оценки «интеллекта» компьютера существует так называемый тест Тьюринга[15], согласно которому компьютер считается «умным», если его ответы на заданные ему вопросы таковы, что невозможно отличить, от кого они исходят — от человека или машины.

Действительно, этот новый технологический гуманоид обладает некоторыми уникальными свойствами, которые, по-видимому, превосходят человеческие:

(а) огромная память и обширные знания;

(б) способность обрабатывать вопросы по всем областям знаний;

(в) впечатляюще быстрое и гибкое мышление;

(г) Он не стареет. Напротив, он постоянно обновляется. Его недостатки уменьшаются, его преимущества увеличиваются.

(д) Он разговаривает спокойно, без эмпатии, гнева, оскорблений или обзывательств.

Несмотря на все это, его познания хоть и обширны, но не глубоки; его мышление хоть и быстрое, но не свободное; хотя он постоянно обновляется, но не может быть оригинальным; хотя он и впечатляет, но не способен к сочувствию; хотя ты от него зависишь, ты не чувствуешь, что он испытывает к тебе какие-либо чувства, ненавидит или любит тебя. Существует реальная опасность поверить, что люди действуют подобно компьютерам во плоти и что они подобны машинам, обладающим мышлением и интеллектом, с которыми мы можем общаться. Общение происходит без общности, свободное мышление подчинено массиву информации, а человек — цифровой машине[16].

Но это также создает и некую путаницу. Впечатляющий образ, создаваемый компьютером, может привести к ошибочному представлению, что компьютеры обладают сознанием, логикой или даже чувствами. Однако, они не обладают пониманием. Хотя с ними можно общаться через ChatGPT и понимать, что они говорят, чат-боты не понимают содержания диалогов; они не осознают, что «думают», даже если правильно информируют нас, и мы не знаем, как устроено их «мышление». Дело в том, что человеческое сознание не является алгоритмическим и поэтому его невозможно смоделировать с помощью обычной цифровой машины Тьюринга[17].

Человек — разумное существо, а искусственный интеллект — это скорее не столько разум, сколько способность к обработке информации. Возможно, более подходящим термином для его описания будет «вычислительный интеллект»[18].

IV. Богословские размышления

Это правда, что события развиваются стремительно, а научная фантастика и связанная с ней психология часто подавляют и заслоняют объективную реальность. В связи с этим окончательная богословская позиция является скорее неопределенной. Об актуальности и важности темы искусственного интеллекта с точки зрения Церкви и богословия свидетельствует тот факт, что в последнее время появляется достаточно много исследований и организуются интересные конференции[16]. Первый человекоподобный робот был создан в Гонконге компанией Hanson Robotics в феврале 2016 года и получил гражданство Саудовской Аравии под именем София в октябре 2017 года.

Тем не менее, как пишет Преосвященнейший митрополит Мессинийский Хризостом (Савватос), «современное технологическое развитие станет самой серьезной проблемой, с которой человечество столкнется в ближайшем будущем, и будет характеризовать весь XXI век. По этой причине долг православного богословия очевиден и непреложен»[18]. Мы не должны упустить шанс противопоставить этим техническим достижениям все величие православной антропологии. Исходя из этого, мы хотели бы высказать некоторые соображения о том, что представляет собой бесспорно великое изобретение искусственного интеллекта в целом.

Превосходство человека

По мере того, как происходит технологическая имитация человеческого мышления и логики, а также появляются новые формы и способы коммуникации, создается новый вид виртуального существа с ограниченной свободой выбора, дегенеративной свободой и механизированной идентичностью.

Хотя оно не похоже на человека биологически и эмоционально и не имеет его достоинств и недостатков, оно наделено знаниями, речью и творческим мышлением и, таким образом, способно к коммуникации.

Создается технологическое существо, непохожее на человека биологически и эмоционально и не имеющее его моральных достоинств и недостатков. При этом оно в наибольшей степени, чем другие существа, обладает видовым признаком людей: знаниями, речью и творческим мышлением, и, таким образом, способно к коммуникации. Оно обладает возможностями безошибочной работы, однако без гарантий безошибочности. Его знания не подчиняются его собственной воле, поскольку оно не имеет воли. Его сила и ценность, если таковые имеются, проистекают из его огромных возможностей, но не из его добродетелей. Рядом с человеком, созданным по образу и подобию Божию, появляется человеческая технологическая конструкция, лишенная свойств живого существа, но выражающая себя как гуманоид, как мыслящая логическая сверхмашина, лишенная красоты человеческой асимметрии и свободы совершать ошибки.

Однако есть много аспектов, в которых человек превосходит искусственный интеллект. Именно они определяют его красоту, истинную ценность и величие. Многие из великих достижений человека не были результатом логических процессов, а возникли по непредсказуемому интуитивному вдохновению.

Кроме того, ценности, идеалы, нравственное чувство, вера в Бога или поиск сверхъестественного являются отличительными качествами природы человека, которые определяют и его поведение. Философское мышление, внутренние переживания, настроение, воля, отношение к добру и злу — все это определяет свободу выбора человека, которая может привести его к великим свершениям или к самоуничтожению.

Ничего из вышеперечисленного не доступно искусственному интеллекту, даже инстинкты животных. В этом смысле он представляет собой логическую машину, которая не может выйти за рамки своих правил работы и не может ошибаться. У него нет сознания. Кроме того, человек — это творение любви, причем Божественной, в то время как продукты искусственного интеллекта — это порождения человеческой гордыни. Уже обозрима вероятность того, что нечеловеческий интеллект создаст новый мир, подверженный дезинформации, или что появятся новые идеологии, новые культы, новые религии, новые концепции нравственности, новая культура — совершенно чуждые уже существующим. Искусственный интеллект не исправляет мир, не просто улучшает его и не просто изменяет его — он создает новый, совершенно иной мир.

Впрочем, этот вызов дает нам уникальную возможность показать истинную ценность человека. Человек ценен не потому, что обладает интеллектом, а потому, что он разумен, у него есть разум и сознание — не искусственное или вычислительное, а естественное; у него есть мудрость и рассудительность, данные свыше. Это открывает человека миру энергий-действований Божественной благодати, вечности, совершенствования через ведение духовной жизни. Искусственный интеллект ослепляет яркими впечатлениями от видимого и, конечно же, не ведет к истине Невидимого.

Научное всезнание и технологическое всемогущество

Современная жизнь и мышление в значительной степени сформировались под влиянием бурного прогресса науки и техники. Одно дополняет другое, и вместе они увеличивают результат в геометрической прогрессии. Поэтому их союз порождает либо иррациональные страхи, либо надежды, либо даже фантазии метафизического характера. Современная наука дает человеку ощущение всезнания, а технология — всемогущества. Проблема, таким образом, заключается в том, что мы считаем, что (а) мы знаем и понимаем всё — «теория всего» в теоретической физике — и (б) мы можем всё, а именно: создавать жизнь из ничего, «покорять» космос, имитировать человека с помощью технологий — биотехнологии, генная инженерия, робототехника, — подражать сложным функциям мозга, воспроизводить их и создавать роботизированного человека, постчеловека, следующего за homo sapiens.

Сомнение в Боге и самообожествление

Поскольку мы, судя по всему, не довольны человеком в том виде, как он существует, и питаем горделивое устремление создать нечто лучшее, чем мы сами, мы стремимся превзойти нашего Творца, и даже исправить Его. Это глубокая болезнь человеческой природы — создать свой собственный рай, свой собственный мир, своего собственного человека, вместо человека Божия. Другими словами, поскольку мы чувствуем себя всеведущими и всемогущими, нам не нужен Всемудрый и Всемогущий Бог, мы не стремимся к Нему и желаем доказать, что мы превосходим Бога или что мы обладаем божественными способностями, которые не исходят от Него; вместо того, чтобы стать подобными Богу, мы стремимся заменить Его и стать «как боги» (Быт. 3, 5). Таким образом, мы отрицаем, что являемся творениями Божиими; ставим под сомнение существование Бога; верим, что являемся продуктом слепого случая и эволюции; выбираем для себя роль творца, и внутри нас возникает высокомерное желание пересоздать человека. Нам не нравится человек, каким его создал «предполагаемый» Бог. Нашим величайшим достижением кажется создание чего-то, превосходящего нас самих. Вот что стоит за операциями по редактированию генов, технологиями смены пола, усилением нейронов и генетической идентичности и, конечно же, искусственным интеллектом. Все это не является лечением: это улучшения, исправления, модификации, пост-творческие приемы. В основе всего этого предприятия скрывается высокомерное безбожие — или скорее восстание против Бога и самообожествление.

Интеллект и мудрость

В современном научном языке ум и интеллект подразумевают умственную деятельность, способность к мышлению, знания и, возможно, понимание. В философии ум отсылает к мудрости, рассудительности, благоразумию, проницательности. Первое может быть выражено с помощью искусственного интеллекта, но только второе может им управлять. Кроме того, мудрость порождает и создает культуру, искусство, эстетику, благородство, живую веру. Безрассудное знание порождает технику, технологию, прагматизм, азарт, дилеммы, сомнения. Знание синтезирует информацию, мудрость анализирует и углубляет ее. Сегодня у нас есть умные и образованные, но нет мудрых. Поэтому мы производим высокотехнологичные продукты, но не развиваем культуру. В этом и заключается проблема. Это само по себе меняет человека. В первую очередь мы прочувствует изменения на себе. Прежде чем создать свое подобие, мы изменимся сами. Когда технология не является плодом Божественной мудрости, а развивается в результате высокомерных амбиций[19] или как «естественное право», в конечном итоге она не останавливается на служении человеку-творцу, но метит создать иное творение. В этом и заключается абсурдность гордыни: человек отказывается любить то, что есть, и больше любит то, что он создает. Человек, лишенный мудрости, не довольствуется тем, что он есть, и тем, чем он уже обладает.

Результатом этого является то, что по мере создания человека-робота уничтожается «человек в чести»[20], человек, созданный «по образу и подобию Божию»[21], человек мудрый, и созидается худший: тот, кто по своему поведению уподобляется «неразумным животным», а по качествам — машинам.

Взаимоотношения человека и его виртуального технологического образа

Человек, будучи сам по себе сложной умной биологической системой с исключительными возможностями, в конечном итоге может создавать цифровые копии самого себя, улучшенные версии своих характеристик. В его искусственном творении даже мышление низведено до уровня огромной памяти, способность к оценке сведена к принятию статистических решений, сознание сводится к восприятию, коммуникация — к обмену сообщениями. Очевидно, что даже в идеальной форме такая машина не могла бы иметь таких понятий, как свобода, нравственность, добродетели, недостатки, оригинальное творчество, творческая эстетика и культура. Следовательно, отношения, общение с такими творениями приобретают совершенно иное измерение.

Они не являются ни взаимопроникающими, ни, естественно, тайными и сокровенными. Они скорее утилитарные и практичные. Отношения не являются общением любви, а существуют только как интерес, как увлекательная игра, как развлечение, как решение практических задач. Не более того. Можно ли в таких отношениях обмениваться привязанностью со своим творением, делиться радостью? Сможет ли этот виртуальный идол любить, плакать, переживать? Конечно, ни о какой духовности не может быть и речи.

Как здесь можно выразить покаяние, любовь, доброту, сочувствие и прощение? Может ли кто-то разделить поиски Бога с интеллектуальной машиной? В лучшем случае, если бы ее создал какой-нибудь верующий христианин, всё, что она могла бы ему предложить, — это, наверное, множество логических аргументов, множество цитат из Святых Отцов и соответствующие агиографические ссылки.

В конце концов, чье-то желание создать абсолютно точный человеческий образ, виртуальное «я», которому он сам же будет поклоняться и подчиняться, — это звучит не просто как идолопоклонство, но и как нечто болезненно-горделивое. В идолопоклонстве есть другой бог, может быть, чуждый и неизвестный, но он хотя бы считается существующим, поскольку запечатлен в чем-то материальном. Здесь же бог, который является нашим творением, нашим продуктом; мы — его создатели, он создан «по нашему образу», и это не подобие какого-то бога, а наше собственное.

Мы хотим, чтобы Бог был похож на нас, а не мы были похожи на Бога, Которого мы не хотим открыть для себя и Которого мы вытеснили с горизонта наших надежд и ожиданий. Мы не ограничиваемся отрицанием Его существования, но постоянно блуждаем вокруг мнимых доказательств Его небытия. По сути, мы поклоняемся самим себе.

Мы гордимся не техническими способностями нашего творения, а тем, что это мы его создали, причем более совершенным, чем мы сами. Проблема не в том, создадим ли мы разумного человека, а в том, почему и как мы хотим его создать. Технологии и искусственный интеллект — это вовсе не плохо. Это выгодно и может быть в чем-то полезно. Если и есть какой-то риск во всем этом впечатляющем и неизвестном начинании, то он заключается не в искусственном интеллекте как таковом, а в возможной духовной недальновидности его разработчиков и создателей.

Идолопоклонство или новая антропология?

Человек, каким мы его знаем сегодня, меняется. Теряя перспективу Бога, он сжимается в биологическую, а теперь уже и в механическую сущность. Очарованный созиданием своего виртуального идола, погруженный в этот процесс с головой, он становится иным, чем был прежде. Его значение снижается, подменяется на фиктивное понятие его «достоинства» и исчерпывается его правами. Этичным теперь считается не то, что способствует повышению ценности человека, а то, что удовлетворяет его амбиции, желания и права. Его свободе воли грозит опасность быть принесенной в жертву на алтарь беззаконного всемогущества. На место архетипов человек ставит идолов и заменяет перспективу обожения иллюзией самообожествления. Антропология человека, созданного «по образу Божию», низвергается новой антропологией — антропологией самообожествленного человека. Опасность потерять человека при попытке создания постчеловека, то есть нашего виртуального «я», очевидна; точно так же, как поклонение идолу затмевает собою Бога. В конечном итоге мы подходим к антропологии, согласно которой человек — это биологическая машина с началом и определенным концом, смерть означает окончательное возвращение в небытие, где продолжительность жизни неразличима в безграничном океане космического времени; время и способ смерти неизвестны; форма жизни непредсказуема, а его единственная способность — сконструировать «человека», который превзойдет его по силе и интеллекту и уничтожит его.

Вот это и есть современная антропология, обесценивающая человека, если выразить ее кратко! Однако у Церкви есть свое собственное вневременное контрпредложение. Слово святого Григория Богослова: «Не останемся такими, каковы теперь, но соделаемся тем, чем были созданы»[22] находит отклик в истине истории как перспектива для нас. Наша перспектива — это созданный Богом человек из первой главы Книги Бытия, человек «по образу и подобию Божию», человек, который имеет образ Божий и стремится в перспективе уподобиться Ему, и удостаивается даже общения с Ним по благодати, он — наше начало, наше прошлое. А утверждение Господа о том, что «верующий в Меня, дела, которые творю Я, и он сотворит, и больше сих сотворит»[23], показывают нам ценность и великие возможности человека. Главное — не человек с искусственным интеллектом, но дела, ведущие к освящению, к обожению человека, к созиданию человека во Христе. Нам не нужно выходить за пределы своих физических возможностей, мы должны преодолеть свою невежественность, свою греховность. В самом деле, какое отношение может иметь образ материального и тленного постчеловека с искусственным интеллектом к образу человека обóженного?

У нас, пребывающих в Церкви, нет причин бояться всего этого научно-технологического прогресса, как далеко бы он ни зашел. Однако мы должны иметь стремление приобрести «любомудрый ум», чтобы судить о результатах и использовать достижения, и «пламенеющий дух»[24], чтобы дать современному миру свидетельство нашей Вечной Истины. Мир жаждет не искусственного интеллекта — ему нужна Божественная мудрость. Первое может принести разрушение; второе гарантирует жизнь. Нет смысла создавать машины, которые нас уничтожат. Есть тысяча причин строить такие машины, которые будут нам служить. Мы можем сделать первое, потому что мы разумны. Мы желаем второго, потому что у нас есть ум. В конечном итоге проблема не в том, что мы можем сделать, а в том, чего мы желаем. Человек «по образу и подобию Божию» создан для того, чтобы господствовать над своей конструкцией, созданной «по образу человека и превосходящей [физические возможности] его». Сегодня проповедь и свидетельство нашей Церкви актуальны как никогда прежде.

29 марта 2025 г.

Список литературы и примечания

1. A. J. Barnhart, Jo Ellen M. Barnhart, and K. Dierickx, “Why ChatGPT Means Communication Ethics Problems for Bioethics?”, The American Journal of Bioethics 23, 10 (2023), с. 81-82.

2. Pallavi Rao, How Long it Took for Popular Apps to Reach 100 Million Users, https://www. visualcapitalist.com (13.7.2023).

3. https://chat.openai.com (16.9.2023).

4. «Ἅγιε Νικόλαε, εὐεργέτα μέγα, σεβάσμιε καὶ θαυμαστέ, παντοδύναμε, στεφθεὶς μὲ δόξαν ἀπὸ Χριστόν, ὁμολογοῦμε ὡς θαυματουργὸν καὶ σωτῆρα τῶν ψυχῶν ἡμῶν».

5. Meghan Holohan, A boy saw 17 doctors over 3 years for chronic pain. ChatGPT found the diagnosis, https://today.com (11.9.2023).

6. Gl. Cohen, “What Should ChatGPT Mean for Bioethics?”, The American Journal of Bioethics 23, 10 (2023), с. 12.

7. Gl. Cohen, “What Should ChatGPT Mean for Bioethics?”, см.выше, с. 9.

8. S. Porsdam Mann, Br. D. Earp, N. Møller, S. Vynn, and J. Savulescu, “AUTOGEN: A Personalised Large Language Model for Academic Enhancement-Ethics and Proof of Principle”, The American Journal of Bioethics 23, 10 (2023), с. 28-41.

9. Generative Pretrained Transformer-4.

10. D. Rosario, The I.Q. of GPT4 is 124 approx, https://medium.com/@soltrinox/the-iq-of-gpt4-is-124-approx-2a29b7e5821e (2.5.2023): «Языковая модель GPT-4 недавно прошла тест Scholastic Aptitude Test (SAT), получив 710 баллов по вербальному тесту и 690 баллов по математическому тесту, что в сумме дало 1400 баллов. Согласно американским стандартам, это соответствует вербальному IQ 126, математическому IQ 126 и общему IQ 124. Если принимать эти результаты за чистую монету, можно сделать вывод, что GPT-4 превосходит 95 % населения США по интеллекту и примерно равен среднему уровню интеллекта доктора наук, врача или адвоката».

11. Γ. Κοντόπουλος, «Τεχνητὴ Νοημοσύνη», Πρακτικὰ τῆς Ἀκαδημίας Ἀθηνῶν, τ. 98, τεῦχ. Α΄, ἐκδ. Γραφεῖον Δημοσιευμάτων Ἀκαδημίας Ἀθηνῶν, Ἀθήνα 2023, σσ. 169-174 / Г. Контопулос, «Искусственный интеллект», Практические материалы Афинской академии, т. 98, выпуск 1, изд. Издательское бюро Афинской академии, Афины 2023, с. 169-174.

12. Κατερίνα Ἰω. Ἀνέστη, «Ὁ Κωνσταντῖνος Δασκαλάκης θέλει νὰ κάνει τὴν Ἑλλάδα κέντρο τεχνητῆς νοημοσύνης», BLUE, Aegean & Olympic Air Inflight Magazine, September October 2023, σσ. 88-97 / Катерина И. Анести, «Константинос Даскалакис хочет сделать Грецию центром искусственного интеллекта», BLUE, Aegean & Olympic Air Inflight Magazine, сентябрь – октябрь 2023 г., с. 88-97.

13. Ἀ. Δρακόπουλος, Μήνυμα γιὰ τὸ 2024 ἀπὸ τὸν Πρόεδρο τοῦ ΙΣΝ, Ἀνδρέα Δρακόπουλο / А. Дракопулос, Послание на 2024 год от президента Фонда им. Ставроса Ниархоса Андреаса Дракопулоса, https://www.snf.org/el/nea-istories/nea/anakoinoseis/minyma-gia-to-2024 apo-ton-proedro-tou-isn-andrea-drakopoulo/ (4.1.2024)

14. Там же, с. 92.

15. B. St. George, “Turing Test”, Tech Accelerator, https://www.techtarget.com/searchenter priseai/definition/Turing-test (April 2023).

16. R. Penrose, The Emperor’s New Mind, ch. 2: Algorithms and Turing Machines, Oxford University Press, Οxford 22016.

17. Γ. Σπύρου, Ἔρευνα: Ὑπολογιστικὴ Εὐφυΐα μὲ ἁπλᾶ λόγια / Г. Спиру, Исследование: о компьютерном интеллекте простыми словами, https://ygeia-news.com (4.3.2019).

18. Μητροπολίτης Μεσσηνίας Χρυσόστομος Σαββάτος, Ὁ ἄνθρωπος καὶ ἡ ἀνάπτυξη τῆς σύγχρονης τεχνολογίας – Μία πρόκληση γιὰ τὴν Ὀρθόδοξη θεολογία, ἐκδ. Ἱερᾶς Μητροπόλεως Μεσσηνίας, Καλαμάτα 2019, σ. 9· πρβλ. καὶ ὁ ἴδιος, «Ὁ ἄνθρωπος καὶ ἡ ἀνάπτυξη τῆς σύγχρονης τεχνολογίας. Μία πρόκληση γιὰ τὴν Ὀρθόδοξη θεολογία», Θεολογία 90, 3 (2019), σσ. 19-41 / Митрополит Мессинийский Хризостом Савватос, Человек и развитие современных технологий – Вызов для православного богословия, изд. Мессинийской митрополии, Каламата 2019, с. 9; ср. его же, «Человек и развитие современных технологий. Вызов для православного богословия», Теология 90, 3 (2019), с. 19-41.

19. Ἡ ἀλαζονεία τῆς ἀνακάλυψης ἀντιδρᾶ σὲ κάθε ἔλεγχο: “Innovation eats regulation for breakfast” / Гордыня в связи с открытием противостоит любому контролю.

20.  Пс. 48, 13.

21.  Быт. 1, 26.

22. Григорий Богослов, Слово 39. На святые светы явлений Господних, Ε.Π.Ε. 5, с. 72.

23. Ин. 14, 12.

24. Рим. 12, 11.

Источник: https://www.entaksis.gr/τεχνητή-νοημοσύνη-chatgpt-βιοηθικοί-καὶ-θε/

@Перевод «Трость Скорописца», 2025 г.

Благодарим всех тех, кто перепечатывает наши материалы и при этом указывает ссылку на данный блог, показывая этим уважение к труду переводчика. И благодарим тех, кто не указывает, а выкладывает как свои собственные. Да благословит всех нас Господь! Слово Божие пусть сеется обильно.