Социальные пределы ИИ

Александр Малахов

20 мая 2025

1. Как правило, дискурс вокруг ИИ группируется вокруг нескольких «пакетных» вариантов, когда принятие одной ценностно-заряженной позиции предсказывает (или, во всяком случае, сильно коррелирует) с другими позиции. В частности, негативное отношение к ИИ коррелирует с общим скептицизмом в отношении его возможностей, а убеждённость в возможности создания сильного ИИ — с технооптизмом. В случае технооптимизма вилка вариантов выглядит как утопия или катастрофа, но в сценариях, когда катастрофы удаётся избежать (успешное решение проблемы alignment’а), некоторая версия утопического будущего выглядит вариантом по умолчанию.

2. Я предлагаю рассмотреть вопрос о том, является ли наличие сильного «выровненного» ИИ достаточным условием для решения фундаментальных проблем человечества и существуют ли «социальные пределы» ИИ — свойства общества и социальных отношений, принципиально недоступные для «понимания» и подлинного взаимодействия со стороны ИИ.

3. Соответственно, первый шаг состоит в принятии гипотезы о возможности создания сильного / трансформативного ИИ — не обязательно ASI, но такого ИИ, который способен радикально преобразовать общество, решив большую часть того, что мы склонны считать сегодня важнейшими проблемами (климат, экономика, GSDs и т. д.). В этом отношении, защищаемая позиция является технооптимистичной. Но здесь есть оговорка: образы будущего, разрабатываемые в рамках технооптимизма, зачастую уделяют мало внимания осмыслению возможности дальнейшего прогресса, кроме как в чисто количественном экспансивном выражении (multi-planetary species, etc), и я полагаю, что это не просто слепое пятно или временный крен, а структурная проблема.

4. Моё базовое предположение состоит в том, что даже сильный ИИ, решивший основные «внешние» проблемы, не способен помочь нам в разрешении более фундаментальных вопросов, проистекающих из нашего экзистенциального положения и базовых свойств общества, и ограничено полезен (и потенциально вреден) для долгосрочной социальной и культурной эволюции.

5. Для обоснования этого положения я задействую аргументы из несколько линий: (1) трансгуманисты и лонгтермисты (Ник Бостром, Уильям Макаскилл, Тоби Орд), (2) феноменологическая традиция (Макс Шелер, Эдит Штайн, Дан Захави), персоналистическая и реляционная социология (Маргарет Арчер, Пьерпаоло Донати, Кристиан Смит). При этом, я нахожу интригующую параллель между аргументами об ограничениях функционализма и вычислительных подходов в философии сознания, и предполагаемыми социальными пределами ИИ.

6. Суммируя аргументы линий (2) и (3) я утверждаю, что общество образуется отношениями между личностями, которые не сводимы к внешним условиям, даже если частично опосредованы ими; эмпатия как интенциональный акт лежит в основе социальности. Соответственно, никакое сколько угодно детальное описание общества от третьего лица или посредством количественного моделирования (Никлас Луман, кибернетика и т. д.) не способно совершить качественный скачок к «мы-перспективе». Эта перспектива доступна только человеческой личности, фундаментальным свойством которой является социальность и включенность в «я-ты» (vs «я-оно») отношения.

7. Далее задействуя линии (1) и (3), я нахожу, что парадоксальным образом, вопросы о социальных аспектах ИИ и долгосрочном будущем человечества, поднятые авторами, работающими в утилитаристской и количественной парадигме, могут найти более глубокое обоснование в социальной онтологии, описанной в предыдущем пункте, без которой они, несмотря на благие намерения авторов, оказываются лишенными оснований.

8. Далее я планирую рассмотреть конкретные вопросы (реляционные и позиционные блага, глубокая приватность, социальный аналог «теоремы о неполноте» и т. д.), которые выявляют пределы социального воздействия ИИ. При этом, кажется вероятным, что ИИ может достичь видимости понимания или экстенсиональной эквивалентности (по Карлосу Монтемайору), присутствующей у людей, что затрудняет эмпирическую дифференциацию между ними. Вывод из этого состоит в том, что никакого чисто описательного и фактуального подхода недостаточно для вынесения решения, и нам необходимо задействовать сферу нормативности / ценностного анализа.

9. В завершении я планирую обсудить возможные издержки ИИзация общества, опасность неразличения видимой и реальной личностности, и необходимость философии и гуманитарного знания для ответственного развития ИИ и его интеграции в общество.

Важнейшие источники

Bostrom, Nick (2024). Deep Utopia: Life and Meaning in a Solved World. Ideapress Publishing
Donati, Pierpaolo (2021). Transcending Modernity with Relational Thinking. Routledge.
Montemayor, Carlos (2023). The Prospect of a Humanitarian Artificial Intelligence: Agency and Value Alignment. Bloomsbury Academic.
Zahavi, Dan (2025). Being We: Phenomenological Contributions to Social Ontology. Oxford University Press.