Стенограмма занятия по этике ИИ для участников программы AI Mindset.То, что я попытаюсь сделать сейчас – это не совсем традиционная лекция, а нечто довольно экспериментальное, больше напоминающее джем-сейшн или DJ-сет, где вместо музыки у нас будут наборы смыслов, источников, сэмплов. Я понимаю, где примерно мы должны оказаться через два часа, но как именно это произойдет – это будет чистый лайв. Поэтому так важна обратная связь, ваш фидбэк, комментарии, вопросы, всё может повлиять на то, что у нас получится в итоге.
О чем мы сегодня, как я надеюсь, сможем поговорить? Тема широко обозначена как «этика искусственного интеллекта», но сюда же входит и то, что называется Social Science of AI, то есть общественные науки об искусственном интеллекте: социология, политология, экономика, в некотором смысле даже психология. Что объединяет эти подходы? То, что мы рассматриваем искусственный интеллект не в вакууме, а в контексте. Мы не живем в мире чистых битов; мы живем в мире отношений, мыслей и ценностей. Сегодняшняя задача – посмотреть, как искусственный интеллект и возникает из нашей культуры, из наших взаимоотношений, и как он влияет на них.
Самое важное, что, я надеюсь, мы вынесем из этой встречи – большее понимание того, насколько всё взаимосвязано. Здесь не может быть жестких границ, например, между инженерными специальностями и гуманитарными, между «объективными» технологиями и «субъективными» ценностями. Всё это на самом деле бесконечно переплетено.
У нас, у людей современной культуры, по умолчанию нет инструментария, как с этим работать. Мы, некоторые из нас, понимаем как строить здания, как создавать компании, как добиваться результатов в том, что мы можем легко измерить, что поддается классификации, алгоритмизации. Но у нас зачастую нет когнитивных инструментов и инструментов
imagination воображения, необходимых для ориентации в категориях менее материальных, не поддающихся прямому измерению. Именно здесь вступает в игру философия, гуманитарное знание, духовные традиции.
Я хочу начать с истории из книги Аласдера Макинтайра
«После добродетели». Это одна из самых важных работ, написанных в XX веке, которая произвела революцию в этике. Я не буду вдаваться в детали, но хочу вспомнить один хороший образ, очень сильную метафору.
Представьте себе (я сейчас весьма вольно пересказываю сюжет) некую временную линию, в которой полностью утрачено знание физики. Люди в этой временной линии иногда находят отдельные артефакты: паровую машину, остатки ТЭЦ, детали двигателя внутреннего сгорания, случайные чертежи и записи, обрывки уравнений. Но у них нет никакой теории, объясняющей как это могло бы работать. Нет ни теории Ньютона, ни Максвелла, ни тем более теории относительности.
Макинтайр утверждает, что мы, современные люди после эпохи Просвещения, находимся в похожей ситуации, но в сфере этике, в сфере нравственных категорий. У представителей любой культуры, любой эпохи до современности была (с их точки зрения) целостная этическая картина. Мы же живем в эпоху «после больших нарративов», и у нас есть только фрагменты, отдельные интуиции, отдельные ощущения, отдельные представления о том, что правильно и неправильно, которые между собой могут никак не соотноситься.
Это, как полагает Макинтайр и не он один, трагедия современности. Но современность, конечно, имеет и свои большие плюсы, потому что люди в досовременных культурах редко могли самостоятельно выбирать свои ценности – они просто принимали их как данность, как мы принимаем воздух, которым дышим.
Так в чём загвоздка? Из-за отсутствия общего этического ландшафта у современных людей (особенно у тех, кто не соприкасался с фундаментальной философией, духовными традициями, гуманитарным знанием – например, тех, кто полностью выстраивал свой профессиональный трек в рамках
computer science, информатики, инженерии) есть интуитивное ощущение, что этика – это что-то «ненастоящее». То, что можно четко измерить, рассчитать по формуле, взвесить – это нечто осязаемое, «объективное». А то, что касается категорий правильного/неправильного, добра/зла – это просто вопрос эмоций, вопрос вкуса.
В любую эпоху, в любой культуре, кроме преимущественно западной культуры последних веков, картина была противоположной. Именно категории добра и зла, истины, прекрасного воспринимались как более настоящие, более подлинные, более фундаментальные, чем вещи, с которыми мы сталкиваемся в повседневной жизни – как вести бизнес, построить дом и тому подобное. Вот эта иерархия оказалась будто бы перевернутой.
У меня нет планов защищать консерватизм, что «было хорошо, стало плохо». Но мы, безусловно, утратили какой-то важный инструментарий в нашем сознании, в нашей душе, определяющий самую суть того, кем мы являемся. Если мы получаем картину, в которой наши самые фундаментальные ценности мы считаем лишь артефактами нашего эволюционного развития, социальных условий, конвенций, то это означает, что никаких ценностей по-настоящему не существует, что они лишь предмет договоренности и не имеют самостоятельной силы.
Поэтому, прежде чем мы перейдем к теме AI и технологий, давайте немного поговорим о том, что называется метаэтикой и, скажем так, теоретической этикой.
Хотя, безусловно, этика – не та область, где всё так однозначно, как в физических теориях или даже теории эволюции, но в то же время она не является произвольной. Мы действительно можем осмысленно и ответственно говорить о том, что правильно, а что нет. Эти категории не являются просто проекцией догматических взглядов или личных предпочтений, а действительно являются чем-то, что выходит за рамки нас самих.
В рамках таких позиций, как моральный объективизм или моральный реализм, этические категории рассматриваются наподобие математики. Хотя математика как таковая нематериальна, она, безусловно, объективна и, насколько мы можем судить, истинна. Многие современные мыслители – как светские, так и религиозные – полагают, что когда мы изучаем сферу этического, мы сталкиваемся с таким же, более чем человеческим, и при этом совершенно реальным измерением нашего мира. Моральные факты, нравственные категории – это нечто столь же объективное, настолько же реальное, как теоремы математики.
У этой позиции есть очень серьезные недостатки и возражения, и моя задача не прийти к какому-то конкретному выводу, не защитить одну позицию, а подчеркнуть всю сложность этих вопросов и в то же время, выяснить, относительно каких вопросов мы можем найти ответ, а где должны принять позицию не то чтобы скептицизма, но некоторого смирения.
Поэтому давайте сейчас несколько минут посвятим тому, как устроена академическая этика, то есть этика как гуманитарная дисциплина в современном мире. Я хочу показать, что это не только лишь философский интерес, а что она влияет на то, как, допустим, реализуются программы искусственного интеллекта в разных странах, на то, как разные страны приходят к разным системам регулирования.
Этические теории и метаэтикаНаибольшей популярностью в англоязычном мире пользуется
утилитаризм / консеквенциализм, подход, восходящий к таким авторам, как Джон Стюарт Милль, а сегодня защищаемый, например, Питером Сингером. Я бы сказал, этот подход в наибольшей степени отражает англосаксонскую культуру: Великобритании, США и их сферы влияния. В основе утилитаризма лежит идея, что мы можем измерить этическое благо. Соответственно, наиболее верным считается то действие, которое приводит к увеличению общей суммы этого блага. Если мы измерим благо каждого живого существа на Земле, то наиболее нравственным будет то действие, которое приведет к умножению суммарного количества этого блага.
Как можно интуитивно понять, эта позиция очень популярна сегодня, например, в Кремниевой долине, среди стартап-сообщества, среди предпринимателей. Не только потому, что она соответствует англосаксонской культуре, но и потому, что она очень хорошо согласуется с инженерным, количественным, экономическим мышлением. Поэтому очень часто в англоязычных дебатах об AI консеквенциализм воспринимается как позиция по умолчанию.
Проблем с этой позицией много. Во-первых, сама идея измеримости блага и сводимости всех этических благ к одному знаменателю совсем не очевидна. Очень трудно соотнести разные ценности: мы быстро приходим к тому, что нам нужно выбрать всего один критерий, один индикатор (обычно это количество лет жизни, или количество лет качественной жизни, в более утонченных версиях – что-то вроде субъективного благополучия). При этом нам нужно как-то соотнести всех людей и всех живых существ по этому знаменателю. В наиболее экстремальных, но притом популярных интерпретациях это принимает форму попыток соотнести количество блага в человечестве и количество блага, допустим, среди креветок. На основе расчетов (сколько у кого нейронов или их неких аналогов) выводится гипотетический объем субъективного опыта, и делается вывод, что так как, например, насекомых гораздо больше, чем людей, то их совокупная ценность намного выше ценности человечества.
Другой момент – утилитаристские подходы склонны к установке на «цель оправдывает средства». Если требуется пожертвовать интересами отдельного человека или группы людей для увеличения общего блага, то это считается допустимым. Значение имеет итоговый результат. И если в процессе получения этого результата у нас будет не только плюс-плюс-плюс, но и где-то колоссальный минус для какой-то группы людей, но при этом итоговая сумма окажется позитивной, это все равно считается этически желательным результатом.
Вторая по популярности этическая теория –
деонтология, ассоциируемая прежде всего с именем Канта, во многом противоположна утилитаризму.
Разницу между утилитаризмом и деонтологией можно проиллюстрировать через отношения к AI в Соединенных Штатах и в Европейским союзе. В США подход скорее утилитаристский: если в результате получится большее благо, то нарушение в процессе устоявшихся правил и норм приличий не так страшно. А деонтологический подход – это позиция, построенная на императивах, на абсолютных предписаниях. Есть некоторые вещи (например, связанные с человеческим достоинством, недопустимостью лжи и т.д.), которые не должны нарушаться вне зависимости от последствий или их отсутствия. Поэтому подход Европейского союза (а континентальные европейские страны, прежде всего Германия, исторически больше склонны к деонтологии) – это подход, построенный на жестких предписаниях. Неважно, приведет ли что-то к катастрофическим последствиям; если какое-то действие, связанное с развитием технологий, создаёт условия для нарушения императивов (например, посягательства на приватность, на человеческое достоинство), то очень важно провести черту до того, как она будет нарушена. Это яркий пример того, как позиции, сформулированные много веков назад в университетах философами до сих пор влияют на повседневную жизнь каждого человека на планете, на стратегии стартапов, на решения бюрократии, на работу международных структур.
Если из сегодняшнего занятия вынести ключевой факт, то вот он: две ключевые теории – утилитаризм и деонтология – примерно соотносятся как подходы США и Европейского Союза к регулированию. То, что возникает как мысль, как инсайт мыслителя может продолжать оказывать расходящиеся круги на воде истории на протяжении многих веков.
И прежде чем мы перейдем к другим теориям, хочу сделать важную пометку:
разные сферы человеческого опыта развиваются с разной скоростью. Не везде «позже» значит «лучше».
Мы привыкли смотреть на мир через призму прогресса: технологии развиваются, наука развивается. Поэтому мы полагаем, что любое знание, любые суждения со временем должны становиться точнее, и что подходы, возникшие позже, имеют приоритет перед «устаревшими». В случае научных теорий или технологий, как правило, так и есть. Но в случае гуманитарного знания, особенно теоретического знания или философии, это совсем не так: когда современные философы обращаются к Аристотелю, Платону, это не просто кабинетный исторический интерес. Причина в том, что вопросы, поставленные тогда, остаются актуальными и на уровне постановки, и на уровне аргументов, и на уровне выводов в той же степени, что и вопросы, которые ставятся нашими современниками. Это можно сравнить с математикой: теоремы, доказанные Пифагором, остаются столь же точными и сегодня. Иногда их области приложения может пересматриваться, но в целом, есть сферы человеческой жизни, где развитие происходит совсем иначе, чем в естественных науках.
Почему я сейчас об этом вспомнил? Потому что одним из важнейших событий в этике XX века стало возникновение, точнее – восстановление того, что известно как
этика добродетелей (virtue ethics). Это подход, восходящий к Аристотелю, к греческой философии. Он радикально отличается и от утилитаризма, и от деонтологии. Если попытаться объяснять совсем просто: утилитаризм делает акцент на измерении результата (дела оцениваются по их последствиям), деонтология оценивает на основе абсолютных предписаний (правда всегда лучше лжи, врать недопустимо вне зависимости от последствий; человеческое достоинство неприкосновенно). Этика добродетели же смотрит на интенцию, на добродетели, на качества характера, которые отражаются в поступках. Она смотрит на корень поступка, из которого рождается действия. И задает вопрос: как бы повёл себя в этой ситуации человек, обладающий в наибольшей степени некоторой добродетелью?
На первый взгляд, это что-то философски-героическое, романтическое. Но, на мой взгляд, этот подход может быть очень эффективным в контексте искусственного интеллекта. Мы не можем точно прописать для ИИ все возможные императивы, чтобы охватить сферу возможных действий. Тем более, мы не можем вывести формулы для расчета всех возможных последствий. Но мы можем сформулировать, какие фундаментальные качества «личности» ИИ нам необходимо развивать в нём, чтобы доверять ему действовать в определенных контекстах.
Есть ещё один подход, который не совсем вписывается в эту классификацию, но о котором хочу упомянуть.. Естественный закон
(Natural Law). Естественный закон был очень актуален почти для любой человеческой цивилизации до недавнего времени, например, в средневековой Европе. Это идея о том, что есть некоторый порядок вещей в окружающей нас реальности, из которого мы можем извлечь понимание того, каким всё должно быть. Наша задача – не выдумывать и даже не открывать этические законы как математические формулы, а скорее внимательно наблюдать, как устроены вещи, и из этого получать представление о том, какими они должны быть. Против этого подхода активнее всего восставали во время эпохи Просвещения и позже, и сегодня он часто автоматически списывается как результат «натуралистического заблуждения»
(naturalistic fallacy), не учитывающего дихотомию «факта-ценности»
(fact-value dichotomy), между данностью и нормативностью.
Мы кратко коснулись этических теорий, теперь нужно сказать о
метаэтике, об основаниях этического. Если этические теории начинаются там, где мы уже договорились, что этика имеет какой-то смысл, то метаэтика ставит под вопрос саму эту предпосылку. В рамках метаэтики важно, конечно же, упомянуть вызов
нигилизма: возможность того, что не существует никаких этических категорий, кроме как в качестве фикции, бессмысленной выдумки. Есть также различные формы
нонкогнитивизма, идеи, что даже если нечто этическое реально, у нас нет возможности это познать, а сами наши этические суждения не несут когнитивного смысла. Мы можем даже согласиться с тем, что есть некое нематериальное, платоническое царство абсолютных ценностей, но при этом сказать, что ввиду нашей эволюционной истории, ограничений морфологии мозга, языка, многообразия культур и так далее, мы просто не доросли до того, чтобы разгадать эту загадку. И это сильная позиция.
На противоположной стороне находится
моральный реализм. Пожалуй, самые интересные события последних десятилетий в философской этике связаны именно с ним. Если взять XX век, особенно период после Первой мировой войны, то среди интеллектуалов были популярны скептические позиции. Люди, пережившие травму мировых войн, утратили веру в человеческий прогресс и в то, что у нас есть внутреннее право говорить о правильном и неправильном. Возникла своего рода развилка: на одном конце оказались мыслители вроде Хайдеггера и постмодернистов, поставившие под сомнение рациональность. На другом конце – те, кто ушёл в сциентизм, философы, сказавшие, что мы уходим из сферы метафизики, этического, абстрактного и занимаемся осмыслением научного знания.
До конца XX века эти две опции были мейнстримом. Но в последнюю четверть века происходит возрождение серьезного интереса к фундаментальной этике, к метафизике, даже, я бы сказал, к духовности. Если открыть каталоги свежих книг ведущих университетских издательств, мы увидим множество работ, защищающих сильные версии морального реализма. Например, свежая книга Шарифа Ландау и соавторов
«The Moral Universe» («Нравственная Вселенная») – это четырехсот страничная монография, защищающая очень сильную теорию морального реализма. Позицию о том, что наша реальность – это не просто совокупность элементарных частиц, полей, взаимодействий, но что она имеет также подлинное нравственное измерение. И что нравственные факты, нравственные категории не менее реальны и важны, чем те вещи, с которыми работает физика или биология. Это не значит, что большинство специалистов согласны с такими позициями, но важно отметить эту тенденцию.
Подводя промежуточный итог:- Разные сферы человеческого опыта развиваются не просто с разной скоростью, а в разных временных режимах. Не везде «позже» значит «лучше». Есть сферы, как философии и этика, где то, что было сформулировано две тысячи лет назад, остается абсолютно актуальным сегодня.
- Хотя существует не одна, а несколько правдоподобных этических теорий, они не произвольны. Они отражают реальный ландшафт доступных вариантов и независимо переоткрывались в разные эпохи в различных культурах.
- Хотя в XX веке мейнстримом среди интеллектуалов был скептицизм в отношении объективности этики, сейчас ситуация меняется в сторону большего интереса к моральному реализму. Однако одно дело – допустить такую позицию в принципе, и совсем другое – согласиться с тем, как именно мы выводим этические положения.
Гуманитарный взгляд на ИИКак это всё соотносится с искусственным интеллектом и как, в принципе, можно смотреть на ИИ через гуманитарную оптику. Для этого нам понадобится не только этика, но и другие дисциплины, социология, политэкономия, антропология. В качестве репрезентативной работы вы можете обратиться к сборнику
The Routledge Social Science Handbook of AI.
Начнём с того, что не существует нейтральных технологий. Очень часто, особенно в технологической и бизнес-среде, встречается установка, что любая технология нейтральна: ее можно использовать во благо или во вред. С одной стороны, это так, и даже хорошие технологии можно использовать в плохих целях. Но с другой, любая технология так или иначе отражает огромный спектр наших установок, ценностей, представлений о допустимом и правильном. Наглядный пример – технология блокчейн. Если проанализировать
Bitcoin Whitepaper Сатоши, тексты Виталика Бутерина, и саму технологию, – это воплощение конкретного набора ценностей, предпочтений: децентрализация лучше централизации.
Когда мы берем такую мощную технологию, как ИИ, важно помнить, что в ней «зашито» огромное количество представлений не только о том, что правильно и неправильно, но и о том, что такое человек, что такое интеллект. Один из давних споров: можем ли мы вообще называть ИИ «интеллектом»? Можем ли мы проводить аналогии между человеческим и нечеловеческим мышлением? Можем ли мы представить человеческое мышление как нечто алгоритмизируемое, сводимое к формальным операциям? И еще миллион вопросов.
Почему я нахожу это важным? Несмотря на то, что Кремниевая долина собирает колоссальное количество умнейших людей, спектр смыслов там довольно узок. Например, мудрено будет найти людей, скептически относящихся к венчурному капиталу и позитивно – к советской модели экономики. То же касается философских и ценностных вопросов. Сложно найти среди лидеров AI-индустрии тех, кто скептически относится к вычислительным моделям сознания. Как правило, создатели ИИ склонны мыслить человеческое сознание как аналог компьютера, вычислительного процесса, машины Тьюринга.
При этом если обратиться к исследованиям сознания, даже нейронаукам и тем более к философии сознания, вычислительные теории, мягко выражаясь, не являются предметом консенсуса. Есть сильные аргументы в пользу того, что наше сознание в принципе невычислимо, не может быть редуцировано ни к мозгу, ни тем более к вычислительным процессам.
Если мы возьмем интеллектуальный ландшафт человечества (даже не включая предположительно безумные теории, а только то, что обсуждается на конференциях, публикуется в научных изданиях), у нас окажется, допустим, сто вариантов идей. Но до Кремниевой долины доходит пять, семь, десять из них.
Это значит, что большая часть представлений о том, что такое человек, сознание, какие формы может принимать экономика, какими могут взаимоотношения между людьми, – большая часть всего этого не доходит до носителей, скажем так, «калифорнийской идеологии».
Если бы лаборатории ИИ имели более широкий кругозор, учитывали бы больший набор вариантов, мы могли бы получать совсем иные технологии. Возможно, бионические технологии, более прямо опирающиеся на биологические формы интеллекта. Возможно, мы бы аккуратнее использовали терминологию и не говорили бы об «искусственном интеллекте».
Мы можем уважать разработчиков из
OpenAI,
Deep Mind и
Anthropic, блестящих инженеров и специалистов, и при этом нам совершенно не нужно (и даже определенно не стоит) принимать на веру то, что они говорят о ценностях, устройстве человеческого сознания, смысле жизни.
Также нам не стоит принимать на веру то, что они говорят о влиянии ИИ на рынок труда и экономику. Есть расхожее выражение (кажется, у классиков киберпанка), что современному американцу легче представить конец света, чем конец капитализма. И действительно: часто можно встретить как люди всерьез рассуждают о стоимости акции после наступления технологической сингулярности.
Необходим дифференцированный подход: уважать их достижения, ценить создаваемые ими технологии и при этом не становиться заложниками их нарративов по вопросам, в которых они не разбираются или которые понимают очень специфическим образом.
Итак, искусственный интеллект, как он операционализируется и позиционируется сегодня, имеет огромное количество допущений, вшитых в саму технологию.
На более фундаментальном уровне то, чего мы сейчас коснулись, разбирается в рамках философии техники и
STS (Science and Technology Studies). Можно почитать классиков: Хайдеггера
(«Вопрос о технике»), Жака Эллюля, Бруно Латура. Мы не будем сейчас их разбирать, но я очень рекомендую, даже если вы хардкорный инженер или продакт в технической компании, выделить несколько дней и прочитать хотя бы одну серьезную гуманитарную или философскую работу о технике. Это действительно способно сильно изменить мышления, как будто мы всю жизнь смотрели на что-то определенным образом, а потом понимаем, что наши повседневные действия могут восприниматься и интерпретироваться совсем иначе.