Машина-доносчица. Как избавить искусственный интеллект от зла

Кто такой Сатана? ​Чем​ Иуда похож на вычислительную машину, успешно прошедшую тест Тьюринга? Какая связь между посвящением в таинства и прикосновением к экрану телефона?

Пользователю кажется, что миф неясен, а функционирование технического объекта предельно ясно. Однако в этике наоборот: миф обладает множеством интерпретаций, каждая из которых содержит чёткую мораль и смысл, в то время как влияние информационных технологий на человека и общество вовсе не столь понятно и осмысленно. Что есть зло для цифровой особы? Есть ли у вычислительной машины собственные ценности?

Общность мотивов между информатикой и мифом — греческим, иудейским, христианским — проистекает из общего функционального описания как компьютерных систем, так и мифологических персонажей. Чатботы, например, то есть виртуальные собеседники, созданы для языкового общения с пользователем — и тот же мотив речевой коммуникации появляется в истории о Франкенштейне и в легендах о големах. Вычленение общих мотивов приводит к удивительным заключениям относительно компьютерных систем, главное из которых — ценность случайного в машинной этике. При этом сравнение проводится безо всякого отождествления, но так, чтобы уроки мифа сделали два способа существования цифровой особы понятными, а её этику — ясной, как солнце.

Алексей Гринбаум — философ, физик. Учился в СПБГУ и в Ecole Polytechnique. Специалист по квантовой информации. Интересуется этическими вопросами новых технологий, использует в этой работе мифы и ненаучные методы исследования. Член Комиссии по этике в области цифровых технологий (Франция). Автор книги «Mecanique des etreintes: Intrication quantique» («Механика объятий. Квантовое спутывание», Paris: Encre Marine, 2014). Печатался в альманахе [Транслит], живёт в Париже.