Индивидуалистические западные общества построены на идее, что никто не знает наши мысли, желания или радости лучше, чем мы. И поэтому мы ставим себя, а не правительство, ответственными за свою жизнь. Мы склонны соглашаться с утверждением философа Иммануила Канта о том, что никто не имеет права навязывать нам свое представление о хорошей жизни.
Искусственный интеллект (ИИ) изменит это. Он будет знать нас лучше, чем мы сами. Правительство, вооруженное искусственным интеллектом, может заявить, что знает, чего на самом деле хотят его люди и что действительно сделает их счастливыми. В лучшем случае оно будет использовать это для оправдания патернализма, в худшем – тоталитаризма.
Фото: https://medium.com/
Каждый ад начинается с обещания рая. Тоталитаризм под руководством ИИ не будет исключением. Свобода станет подчинением государству. Только иррациональные, злобные или подрывные люди могут пожелать избрать свой собственный путь. Чтобы предотвратить такую антиутопию, мы не должны позволять другим знать о себе больше, чем мы. Мы не можем допустить пробела в самопознании.
В 2019 году миллиардер-инвестор Питер Тиль заявил, что ИИ «буквально коммунистический». Он указал, что искусственный интеллект позволяет централизующей власти контролировать граждан и знать о них больше, чем они знают о себе. Китай, как отметил Тиль, с энтузиазмом воспринял ИИ.
Мы уже знаем, что искусственный интеллект может поддерживать тоталитаризм, предоставляя оруэлловскую систему наблюдения и контроля. Но ИИ также дает тоталитаристам философское оружие. Пока мы знали себя лучше, чем правительство, либерализм мог сдерживать честолюбивых тоталитаристов. Но искусственный интеллект изменил правила игры. Крупные технологические компании собирают огромное количество данных о нашем поведении. Алгоритмы машинного обучения используют эти данные для расчета не только того, что мы будем делать, но и того, кто мы есть.
Сегодня ИИ может предсказать, какие фильмы нам понравятся, какие новости мы захотим прочитать и с кем мы захотим подружиться на Facebook. Он может предсказать, останутся ли пары вместе и попытаемся ли мы покончить жизнь самоубийством. По нашим лайкам в Facebook искусственный интеллект может предсказать наши религиозные и политические взгляды, личность, интеллект, употребление наркотиков и счастье. Точность прогнозов ИИ только улучшится. В недалеком будущем, как предположил писатель Юваль Ноа Харари, искусственный интеллект может сказать нам, кто мы такие, прежде чем мы сами узнаем.
Фото: https://www.computerworld.ru/
Эти события имеют сейсмические политические последствия. Если правительства могут знать нас лучше, чем мы, открывается новое оправдание для вмешательства в нашу жизнь. Они будут тиранить нас во имя нашего же блага.
Философ Исайя Берлин предвидел это в 1958 году. Он выделил два типа свободы и предупредил, что один из них приведет к тирании. Отрицательная свобода – это «свобода от». Это свобода от вмешательства других людей или правительства в ваши дела. Отрицательная свобода – это когда никто другой не может вас ограничить, пока вы не нарушаете чьи-либо права. Напротив, позитивная свобода – это «свобода для». Это свобода владеть собой, свобода выполнять свои истинные желания, свобода вести разумную жизнь. Кто бы этого не хотел?
Но что, если кто-то другой скажет, что вы действуете не в «истинных интересах», хотя они знают, как вы могли бы это сделать. Если вы не будете слушать, они могут заставить вас быть свободными – принуждая вас «для вашего же блага». Это одна из самых опасных идей, которые когда-либо возникали. Он убил десятки миллионов людей в сталинском Советском Союзе и Китае при Мао.
Сообщается, что лидер российских коммунистов Ленин сказал, что капиталисты продадут ему веревку, на которой он их повесит. Питер Тиль утверждал, что в области ИИ капиталистические технологические компании Кремниевой долины продали коммунизм как инструмент, который угрожает подорвать демократическое капиталистическое общество. AI – веревка Ленина.
Фото: https://www.computerra.ru/
Мы сможем предотвратить такую антиутопию, только если никому не позволено знать нас лучше, чем мы знаем самих себя. Мы никогда не должны сентиментально относиться к тем, кто стремится к такой власти над нами из лучших побуждений. Исторически сложилось так, что это всегда кончалось только бедствием.
Один из способов предотвратить пробелы в знаниях – это поднять нашу защиту конфиденциальности. Тиль, назвавший ИИ коммунистическим, утверждал, что «криптовалюта – это либертарианец». Криптовалюты могут обеспечивать конфиденциальность. Конфиденциальность снижает возможность других узнать нас, а затем использовать эти знания для манипулирования нами с целью получения собственной выгоды.
Тем не менее, знание себя лучше с помощью ИИ дает серьезные преимущества. Возможно, мы сможем использовать его, чтобы лучше понять, что сделает нас счастливыми, здоровыми и богатыми. Это может помочь нам сделать выбор в пользу карьеры. В более общем плане искусственный интеллект обещает обеспечить экономический рост, который удержит нас друг от друга. Но проблема не в том, что ИИ улучшает наше самопознание. Проблема в том, что о нас известно неравенство сил. Знание о нас исключительно в чужих руках – это власть над нами. Но знание о нас в наших руках – сила для нас.
Любой, кто обрабатывает наши данные для получения информации о нас, должен быть юридически обязан вернуть нам эти знания. Нам необходимо обновить идею «ничего о нас без нас» для эпохи ИИ. То, что искусственный интеллект говорит нам о себе – это то, что мы должны рассмотреть возможность использования, а не извлечение выгоды из злоупотреблений другими. На румпеле нашей души всегда должна быть только одна рука. И он должен быть нашим.
Комментарии