Страх перед ИИ

Искусственный интеллект, предоставляя людям огромные возможности, несет с собой и опасности – которые, конечно, было бы неразумно игнорировать. Но нередко христиане впадают в панику и конспирологию, связанную с ИИ – когда в самой по себе технологии видят то ли предтечу Антихриста, то ли уже его собственной персоной.

Людям кажется, что надо бежать от ИИ, как от дьявольской ловушки, и ни в коем случае не иметь с ним никакого дела.

Такую реакцию можно понять. Нечто, все более успешно имитирующее человека, но не человек, вызывает сильный или не очень эффект «зловещей долины» – когда мы испытываем жутковатое чувство нереальности, как будто мир потерял свои привычные очертания и мы больше не знаем, как в нем ориентироваться. Желание объявить новую технологию чем-то бесовским и бежать от нее как можно дальше тут возникает почти само собой.

В страхе перед новыми технологиями нет ничего нового

Впрочем, такое происходит далеко не в первый раз. В романе Достоевского «Идиот» описан характерный разговор:

– Что значат «источники жизни» в Апокалипсисе? Вы слыхали о «звезде Полынь», князь?

– Я слышал, что Лебедев признает эту «звезду Полынь» сетью железных дорог, распространившихся по Европе…

– Так что же после этого, – горячился в другом углу Ганя, – выходит, по-вашему, что железные дороги прокляты, что они гибель человечеству, что они язва, упавшая на землю, чтобы замутить «источники жизни»?..

– Не железные дороги, нет-с! – возражал Лебедев, в одно и то же время и выходивший из себя, и ощущавший непомерное наслаждение. – Собственно одни железные дороги не замутят источников жизни, а всё это в целом-с проклято, всё это настроение наших последних веков, в его общем целом, научном и практическом, может быть, и действительно проклято-с.

Нам это апокалиптическое восприятие паровоза может показаться смешным. Но представьте себя на месте человека XIX века, который видел только деревянные телеги – кареты, в лучшем случае – и вот ему навстречу выскакивает огромное лязгающее чудовище, испускающее клубы дыма и несущееся с непостижимой скоростью.

Желание убежать от этого непонятного и пугающего мира технологий понятно, и в том же XIX веке по всей Европе появляются люди, которые мечтают о возвращении из дымного мира городов к патриархальной сельской идиллии.

Это желание не угасло до сих пор.

Однако, хотя такой побег, в принципе, возможен, он будет означать разрыв с современным обществом и переход к образу жизни, подобному образу жизни некоторых общин старообрядцев или американских амишей – когда люди живут натуральным хозяйством, ручным трудом, и тщательно избегают любой техники.

Конечно, такой образ жизни может издалека казаться привлекательным. Труд на земле, хороводы по праздникам, никаких офисных гонок, спешки и срочных отчетов.

Но жизнь в гармонии с природой хороша до определенного момента. Что вы будете делать, когда у вас заболят зубы? Или случится острый аппендицит? Технологии – это далеко не всегда излишества, без которых можно обойтись. Первая же серьезная болезнь помогает нам оценить преимущества больницы, оснащенной по последнему слову техники.

Но главное – попытка уйти от технологий означала бы отказ от какого бы то ни было влияния на мир – и, фактически, уклонение от великого поручения Господа: «Итак идите, научите все народы, крестя их во имя Отца и Сына и Святого Духа, уча их соблюдать все, что Я повелел вам» (Мф.28:19-20)

Как христиане, мы посланы в мир – а не из мира. А в мире, в котором мы живем, технологическую гонку остановить невозможно. В мире, где конкуренция остается основным двигателем прогресса, ни одна корпорация не может позволить себе отказаться от технологии, повышающей продуктивность – иначе она просто разорится.

Ни одно государство не откажется от разработок, влияющих на его обороноспособность – иначе оно окажется в критически уязвимом положении.

Власти России XIX века могли сколько угодно предпочитать крестьянскую идиллию – но они вкладывали огромные деньги в строительство железных дорог, потому что понимали, что экономическая отсталость – это непозволительная роскошь.

Технологии искусственного интеллекта также будут неизбежной частью нашего окружения – и на это у нас нет возможности это изменить. На что у нас есть возможность повлиять – это на то, как именно они будут использоваться.

Опасности новых технологий

Суеверному страху перед паровозом на другом конце спектра противостоит ничем не смущаемая вера в прогресс, которая всегда встречала все опасения стариков веселым пионерским смехом. Мол, в то время как дремучие, отсталые, невежественные ретрограды боятся техники, мы радостно приветствуем чудеса науки и человеческой изобретательности, которые открывают перед нами дивный новый мир.

Восторженная вера XIX века в технологический прогресс столкнулась с реальностью в 1914 году, когда все новейшие достижения техники были поставлены на службу массовому уничтожению людей. Аэропланы сбрасывали бомбы на позиции – и на города – противника, пулеметы создавали неслыханные дотоле возможности истреблять множество людей в считанные минуты, огнеметы заливали окопы с солдатами горящей огнесмесью, ядовитые газы добавляли нечто совершенно новое к и без того обширному ассортименту мучительных смертей.

Наука (биология особенно) предоставляла теоретическое обоснование для массовой войны – например, выдающийся немецкий зоолог Эрнст Геккель (хотя не только он) учил, что законы человеческого общества – это продолжение законов биологии, и, подобно тому, как процесс биологической эволюции с необходимостью включает в себя беспощадную борьбу за выживание, человеческие «расы» обречены на взаимную вражду – и пытаться покончить с этим все равно, что пытаться покончить с самой жизнью.

Вторая мировая война, отмеченная высоко технологизированным геноцидом, закончилась созданием и применением ядерного оружия – которое до сих пор угрожает уничтожением жизни на земле как таковой.

Все это побуждает несколько сдерживать восторг по поводу новых технологий – как показывает трагический опыт человечества, нет такой технологии, которую люди не использовали бы как средство насилия. Падшие люди, как говорит Апостол, «изобретательны на зло» (Рим.1:30)

Искусственный интеллект, разумеется, не является исключением. Он будет использован (и уже вовсю используется) во зло. Дроны, управляемые искусственным интеллектом, совершенствуются прямо у нас на глазах, их способность самостоятельно распознавать цели и принимать самостоятельные решения постоянно возрастает. Роботы-убийцы развиваются гораздо интенсивнее, чем роботы-няньки.

Много и обоснованно говорят о тех возможностях для пропаганды, манипулирования общественным мнением, обмана и фальсификаций, которые создает ИИ, о том, как при помощи алгоритмов в социальных сетях вытесняют и «пессимизируют» неугодные точки зрения. Значит ли это, что христианам следует держаться от ИИ подальше, и видеть в ИИ что-то в принципе демоническое?

Самосбывающееся пророчество

Попытки удалиться (из благочестивых соображений) из мира науки и технологии уже предпринимались, и в этом отношении интересным примером являются США.

Для консервативных американских христиан обычны жалобы на засилье крайне левых, атеистических и даже воинственно антихристианских идеологов в американском высшем образовании. Англоязычная сеть полна статей и карикатур, которые отражают одну и ту же мысль – неясно, сделает ли высшее образование ваших детей востребованными специалистами. Зато ясно, что оно сделает их убежденными марксистами.

Американские ВУЗы, в самом деле, это рассадник левого экстремизма, радужных флагов и острой неприязни к «белой», «патриархальной» христианской Америке.

При том, что население в США в целом довольно религиозно, высшее образование в США четко коррелирует с атеизмом, а типичный рассказ о «деконверсии», то есть отпадении от веры, который можно встретить в американской сети, повествует о юноше из религиозной семьи, который попал в университет, где неверующие профессора и соученики побудили его отречься от веры его детства.

Но как высшее образование в США пришло в такое состояние, а технологические гиганты приобрели явный либеральный уклон?

Многие отмечают, что это результат того, что на протяжении нескольких поколений в среде консервативных христиан в стране преобладало негативное отношение к науке и технологиям – как к чему-то подозрительному, бесполезному, а то и прямо вредному для христианина.

Увы, но это породило ситуацию самосбывающегося пророчества – на поле, оставленном христианами, естественно, стали преобладать люди индифферентные, а то и прямо враждебные по отношению к христианской вере.

В наши дни тот же chat GPT принято обвинять в либеральном уклоне. Но этот уклон вполне ожидаем. Дело даже не в чьей-то осознанной злой воле – просто программы будут отражать мировоззрение их создателей, а среди них куда больше неверующих либералов, чем христиан.

Убежать из мира технологий – значит лишить этот мир всякого христианского влияния, и оставить такой мощный инструмент, как ИИ, в руках неверующих. Это будут вовсе не обязательно злонамеренные люди – просто лишенные христианских ориентиров. А это может легко обернуться ситуацией, которая описывается известными словами Черномырдина: «Хотели как лучше, а вышло как всегда».

Опасность поиска внешнего зла

Страх перед технологиями (в частности, технологиями ИИ) может быть опасен в еще одном отношении. Он помещает источник угрозы снаружи. Опасность в этом случае исходит от других людей – а это подразумевает, что мы-то по умолчанию находимся на правильной стороне эсхатологии.

В картине мира, где нам противостоит некое легко узнаваемое демоническое зло, нам легко видеть себя как воинов света и воинов добра. Мировое зло четко обозначено, и мы можем с удовольствием отметить, что это зло – не мы.

Но именно такое самовоспринятие и представляет собой духовную опасность. Зло, в христианской картине мира, стремится не столько причинить нам вред снаружи, сколько поработить нас изнутри.

Технологии не делают нас лучше или хуже; они только дают нам возможность проявить то, что у нас внутри. Иногда говорят, что социальные сети делают людей злоречивыми. Это не так – они дают возможность людям выразить злоречие, которое в них уже есть.

Искусственный Интеллект не сделает вас плохим человеком – и не погубит вашу душу. Он проявит то, что в вас уже есть – до всякого ИИ.

И нам стоит (независимо от ИИ или каких либо вообще технологий) делать то, чему всегда учила нас Церковь – бдительно противостоять своим собственным грехам и в любой ситуации искать, чем мы могли бы послужить Богу и ближним.

Источник: azbyka.ru

Сергей Худиев