info@neuromont.ru
МОЛОДЕЖНОЕ ОБЩЕСТВО НЕЙРОТЕХНОЛОГОВ
МОНтНовостиБлогЛицаМероприятияКонтакты

30 мая 2016 г.

Этически нейтральны ли технологии — полное интервью

П. Л.: Прежде всего, мы знаем много технологий и историй их применения. Какие-то из них поменяли мир в положительную сторону, какие-то — в отрицательную. И меня интересует, прежде всего, момент личного выбора исследователя. Мы знаем такие романтические примеры, как гениальный Тони Старк, который собрал боевой костюм и вершил с его помощью правосудие. На самом деле это — пример ответственности ученого, который делает технологию для победы над злом. Или влияние электромагнитных волн на сознание. В «Обитаемом острове» Стругацких были башни контроля сознания. Ведь за 20 лет до описанных событий какой-то местный ученый разрабатывал такие волны. Наверняка он не прочил своей технологии такое будущее сокрушался, что его изобретение так используется. Но на кого ложится ответственность за исследование? А на кого — за технологию? Если разработчик понял, что его детище будет использовано в чем-то, противоречащем его этическим принципам, должен ли он уничтожить все образцы? Проблема в том, что он этого не сделает, он находится в другой онтологии. Человек 20 лет сидел в лаборатории, и даже будучи добрейшей души человеком, ему вряд ли в голову придет задуматься о последствиях технологии. Или же все эти вопросы не касаются исследователей, и технологии в принципе этически нейтральны? Должны ли общество, государство и другие общественные институты регулировать технологии? Пример: модификация генома человека CRISPR/Cas9. С ее помощью можно лечить генетические заболевания и, возможно, в будущем мы сможем с помощью нее прививать людям определенные предрасположенности. Но тогда человек окажется ограничен в выборе профессии, возможно, образуются некие генетические касты, что мы сейчас можем оценить как негативный сценарий. Технология одна, а применение разное. Рассмотрим другой пример — стимуляция центра удовольствия в мозге. Должно ли это быть общедоступно? Или запрещено, как наркотик? Или будут введены ограничения по возрасту? Это — вопросы тех категорий, которыми я задаюсь в своей работе. Как не запрещать технологии, но и не допустить реализацию негативных сценариев, ведь не хочется столкнутся ни с тем, ни с другим. Как выйти по этому пути к трансгуманизму и/или технооптимизму.

А. М.: Если мы говорим о философии, то стоит начинать с того, что мы подразумеваем под технологиями. Мы говорим о знаниях? Или технологии — это артефакты, конкретные продукты? Или это процедура? Или форма деятельности (инженерная деятельность)? Если мы говорим об этической нейтральности конкретной технологии, мы проскакиваем целую серию вопросов, относительно природы технологий и техники.

Обращаясь к конкретному вопросу о способностях: этически нейтрально ли встроить в человека какую-то способность? Можно сказать, что ответ здесь, по крайне мере, не очевиден. Да, может, у него некоего эмбриона нет генетической предрасположенности к математике, а мы модифицировали его гены, и он стал математиком. А вдруг маленький эмбрион мог стать в альтернативном сценарии поэтом? Получается, мы совершили насилие над ним, подменили его судьбу нашими желаниями. С другой стороны, можно сказать, что мы даем ему дополнительные возможности, ничего не забирая. С третьей стороны, появляется теологический дискурс: не пытаемся ли мы, с нашими ограниченными знаниями и возможностями стать на место Бога, проектируя реальность по своему хотению?

Кроме того, необходимо понимать, что вопрос может по-разному выглядеть из разных перспектив: теологической, научной, правовой и т.д. Невозможно ответить на вопрос в вакууме, необходимо предварительно занять позицию относительно перспективы и понятий. Ответив на первичные вопросы, получаешь доступ к ответам на вопросы от них зависимые, в том числе, на вопрос об этической нейтральности. Философия будет заниматься разговорами не о том, этически нейтральны ли технологии вообще, а скорее создавать, критиковать и совершенствовать базовые позиции по вопросу о природе технологии и техники.

Откуда возникает экзистенциальный вопрос по поводу контроля технологий? Есть серьезная дискуссия относительно технологического детерминизма: могут ли люди контролировать технологическое развитие, или есть неумолимая логика технологического прогресса, в которую люди включены и над которой они не властны? В качестве иллюстрации к осмысленности этого вопроса обычно приводятся многочисленные примеры, когда конкретные технологии были изобретены разными людьми, независимо друг от друга, но примерно в одно и то же время. Так что откажись один от своего детища, оно «вошло» бы в мир через другого. Другой вопрос, связанный с контролем — растущая зависимость человека от техники. К примеру, возможна такая иллюстрация: люди изобрели мобильный телефон, но в актуальной повседневности можно часто заметить картину, когда человек судорожно ищет свой телефон, чтобы закопаться в нем и не знает куда себя деть, если не находит своего маленького электронного друга. Вот и возникает вопрос: кто от кого зависит?

П. Л.: Мне кажется, мы действительно не контролируем знания. Все читают одни и те же учебники, одну и ту же «Википедию», вопрос времени кто и когда сделает научное открытие, отталкиваясь от общего уровня знаний. Мне кажется, очень важен момент свободы выбора, но почему-то ты употребил его в теологическом ключе. А если мы рассмотрим его в ключе гуманизма: мы хотим, чтобы мир существовал не по законам божьим, а по нашим собственным желаниям. Разве мы не вкладываем в эту отнологию наличие свободы выбора? Или же идея в том, что если эмбрион не хочет быть математиком, то в этом нет проблемы свободы выбора? Ведь если у него есть способности к математике, то пойти по этому пути будет его искренним желанием.

А. М.: Если мы доводим эту логику до предела, то можно начать манипулировать желаниями, склонностями, убеждениями человека. Можно наделать добрых, умных, красивых людей просто «подкрутив» их геном. Однако не потеряем ли мы вместе с тем ценность доброты и свободы? Сейчас мы скорее полагаем, что характер человека зависит не только от природных данных, а от его тех действий, конкретных поступков, которыми человек этот характер сформировал. Если все хорошее в характере будет результатом действий умелых инженеров, можно ли будет как-то хвалить или порицать носителя этого характера?

Иначе говоря, технологические модификации в сторону некоторых совершенств могут устранить достоинства этих совершенств. Конечно, не все с этим согласятся. Мы считаем, что природная красота или высокий интеллект — это хорошо, хотя есть основания полагать, что это во многом биологические данности. Есть вещи, которые не являются предметом выбора, но расцениваются как сами по себе хорошие. В связи с проблемой этической нейтральности технологи возникает такой вопрос: если технологии этически нейтральны, то, возможно, технологически полученный ум или черты характера также не являются чем-то хорошим, но лишь нейтральным? В чем морально достоинство носителя технологически достигнутых совершенств? И это одна из проблем: технологии могут убить выбор, который интуитивно связан с представлением о моральном достоинстве тех или иных качеств.

П. Л.: Большая доля критики технологий упирается в то, что компьютеры и телефоны нами управляют, а не мы ими. Но в ситуации свободного рынка человек может выбирать Apple или Ubuntu. И в целом технологии же создаются людьми, и сказать, что люди управляют людьми — в этом не будет ничего нового. Но стоит ли обвинять технологию в том, что она стала средством управления нами другими людьми?

А. М.: Компания или государство, которое полностью игнорирует технологический процесс, не может быть так же успешно, как те, кто ставит прогресс себе на службу. Если государство не развивается, то у него будут проблемы с тем, чтобы выжить. Если ты не умеешь обращаться с компьютером, ты можешь не найти нормальную работу. Технологии становятся конкурентным преимуществом. Человек активно применяющий технологии и человек, отказавшийся от них, имеют разные возможности. В этом смысле, технологии являются условием успешности в том числе для их создателей. Создатели Ubuntu не получили бы своих возможностей, если бы не освоили соответствующую область технологического знания. Вот и возникает вопрос: действительно ли мы имеем выбор?

Говоря о повседневном «контроле» технологий стоит сказать, что ни Джобс, ни другие изобретатели не являются напрямую агентами контроля. Они проектируют и производят эту технику. Но когда человеком управляет iPhone, им управляет не Стив Джобс, а, скорее, сам телефон, как некоторый «квази-агент». Это может прозвучать странно, но вы посмотрите, что делают с людьми их гаджеты, они буквально детерминируют наше поведение во множестве ситуаций.

Кроме того, здесь возникает тема предсказуемости технологий. Люди создающие технологии сами никогда не могут до конца предсказать, к чему приведет их изобретение. Особенно, если оно обретет популярность. У техники появляется некоторая своя, непредсказуемая траектория развития. В этом плане мы лишены контроля, потому что техника обладает свойством раскрываться с неожиданных даже для её создателей сторон.

Кроме того, рефлексивные способности человека, его интеллект могут быть недостаточны, чтобы выбрать пользоваться технологиями или нет: ты просто оказываешься в мире, который уже функционирует технологически, и ты не можешь выбрать другую жизнь, ты уже существуешь по таким правилам. Может, у современного ребенка тоже нет выбора: жить с телефоном или нет. Он вынужден жить с ним. И может появиться вопрос, как по мере развития технологий будет меняться реальность? Насколько окажется суженным поле выбора? Защитники технологий скажут, что техника расширяет возможности, с их помощью человек эффективнее коммуницирует, организует свою активность.

Существенная интуиция противников: технологии всегда сопряжены с определенной механизацией жизни, лишением человека выбора и пространства неопределенности. Когда мы что-то пытаемся технологизировать, мы пытаемся сделать это более контролируемым. Но из-за наращивания контроля получается, что мы в этой упорядоченной системе функционируем как элементы машин. Многих это смущает. Они хотят, чтобы жизнь была менее структурированной, чтобы был элемент хаоса.

П. Л.: Беседовал со многими людьми, и они используют блокноты для записей, хотя EverNote со всех сторон удобнее. Я никогда этого не понимал. Но, возможно, в этом действительно что-то есть. Когда ты пишешь от руки, ты можешь сделать разный наклон букв, разный отступ строк. В EverNote ты не можешь сделать ничего нестандартного с точки зрения формы. Мне кажется, что свобода в содержании вполне достаточна для самовыражения, но здесь действительно есть и противоположное мнение.

А. М.: Есть еще такая вещь, сопряженная с технологиями и контролем. Раньше люди полагали, что настоящие знания — это те, что у тебя «в горле». К примеру, раньше хороший филолог отличался тем, что он знал, как употреблялось определенное слово в определенной традиции. Сейчас возникает корпусная лингвистика, с помощью которой ты можешь нажатием кнопки получить гигантское множество примеров употребления конкретно слова за выбранный период времени. То, что было достоинством когда-то, сегодня имеет куда меньше значения.

Многие технологические средства связаны именно с этим. Важно не знать что-то здесь и сейчас, не уметь что-то, а уметь найти информацию, быстро освоить её и суметь применить. Все это накладывает свой отпечаток на характер познавательной деятельности вообще.

То же самое и с технологиями: если рассмотреть достаточно сложную технику, окажется, что ни один человек на Земле не знает до конца, как работают все ее модули, не знает все детали, которыми занимаются специалисты по конкретным узлам. Мы теряем общую картину, отдельные люди занимаются отдельными кусочками, а собрать все вместе становится очень трудно. Может случиться так, что это целое преподнесет нам сюрпризы.

П. Л.: Я пытаюсь понять: кто является объектом и субъектом влияния? Мне кажется, критерием того, что на нас что-то влияет, должно быть обладание сознанием. Смартфон в каком-то смысле обладает сознанием, он же продуцирует какой-то формат взаимодействия, но в нем это запрограммировано. Почему это не искусственный интеллект? Потому что у него нет иллюзии свободы воли. Но у Джобса она есть, и он через свой смартфон может организовать мой день. И кто здесь субъект и объект влияния? Не кажется ли мне, что я сам организую свой день через смартфон?

А. М.: По поводу критерия обладания сознанием — вопрос сложный. Мы еще плохо понимаем, что такое сознание. Если мы не можем как наш собственный мозг производит сознание, то говорить, что у машин есть сознание, преждевременно. Хороший вопрос — обладают ли вещи агентностью? Если мы берем агентность как обладание сознанием, опытом от первого лица, то, конечно, про телефон такое трудно сказать. Если взять понятия агент—реагент в химическом смысле, как элементы каузальных взаимодействий, то техника несомненно является все более существенной частью окружающей нас реальности. Допустим, я беру свой телефон, открываю «Яндекс.Транспорт», вижу, что автобусов поблизости нет, и иду к метро пешком. Необходимой причиной тому стала техника: она не обладает сознанием, но она физически повлияла на мое поведение.

Техника может быть понята как продолжение человеческих органов (Э. Капп), усложнение восприятия, «удлинение руки». В этом плане техника не может быть агентом. Но если мы мыслим ее как внешнюю причину поведения, тогда агентами являются и животные вокруг нас, и физические предметы. Мы видим, что техника является причиной большого объема нашего поведения. В таком отношении говорить, что она не влияет на нашу жизнь, трудно. Потому что в этом мягком смысле она является агентом, но не обладает сознанием.

П. Л.: Но не нужно ли в этом рассуждении от причины неодушевленной докопаться до агента, обладающего свободой выбора или хотя бы иллюзией свободы выбора (в зависимости от выбора позиции по вопросу детерминизма)? Есть конкретные люди, которые разработали технологию и встали перед выбором — представлять ее миру или нет. На ком из них лежит эта ответственность?

А. М.: Это существенный вопрос. Но раскапывая цепочку причин все дальше в прошлое мы вообще можем уйти за пределы человеческой истории. Кроме того, едва ли можно считать создателя техники ответственным за все последствия её использования. Может ли Цукерберг винить себя за все те часы, которые люди провели бесцельно копаясь в фейсбуке?

П. Л.: Мне кажется, не поняв точно, кто принимает решения, нельзя говорить об этике технологий, потому что не технологии влияют на общество, а общество само влияет на общество. Есть конкретные люди, которые разработали технологию и встали перед выбором — представлять ее миру или нет. Я говорю не об ученых, а о тех, кто внедряет технологию (это, как правило, разные субъекты). Так на ком лежит ответственность?

А. М.: Проблема в том, что никто из людей, создававших iPhone, не отдавал себе полного отчета, как гаджет изменит жизнь на планете. Изобретатель GPS не мог до конца предсказать, как его разработка повлияет на окружающую реальность. Это как раз то, что вызывает ощущение отсутствия контроля. Отсюда вытекает вопрос: а вдруг мы изобретем что-то очень плохое, а предсказать этого никто не сможет? Однажды мы можем оказаться в мире, в котором очень неуютно жить, просто потому что мы не продумали, к чему могли привести технологии. У философа Мартина Хайдеггера есть идея того, что человек становится элементом производства техники. Дровосек работает в лесу не для того, чтобы воспроизводить свою жизнь, а для того, чтобы существовало производства, работали заводы. И деятельность людей становится осмысленной настолько, насколько они производят какие-то технологии. Появляется ощущение, что создание технологий контролирует существование людей. И если мы будем искать человека, который это придумал, мы его просто не найдем. И в этом угроза: нет никакого агента, человека, который принимает решения и с полным пониманием ответственности выбирает, какие технологии будут запущены. Скорее всего, тот кто что-то изобрел, не понимает до конца, как это повлияет на мир, но выпускает на рынок. Потенциально это может привести к ситуации, которая нам не сильно понравится.

П. Л.: Наверное, это подводит к следующему вопросу: как в ситуации такого неопределенного мира, где невозможно указать на конкретного человека, управляющего технологией, как в таких условиях нам попытаться не оказаться в мире, который нам не очень понравится?

А. М.: Думаю, не стоит паниковать. Да, технологии могут быть очень опасны тоталитарных режимах. Без определенных технологий невозможны были бы нацизм, сталинизм, мировые войны. Но мир не меняется в одну ночь. Надо просто проявить заботу о том, куда ведут нас технологии и не ждать, что они сами по себе выведут нас в светлое будущее.

Сейчас по всему миру существуют группы специалистов из разных областей, которые обсуждают и продумывают, какими могут быть последствия тех или иных технологических решений. Они смогут минимизировать риски, подсказать оптимальную форму работы. Опора на экспертные оценки людей, продумывающих пути развития технологий и взаимодействующих с их создателями, — это единственный путь к развитому, процветающему и безопасному технологическому обществу.

Подпишитесь и получайте самые свежие новости из нейронета!

По темам

2 сентября 2016 г.

С 9 по 11 сентября во ФРИИ пройдёт хакатон Neurohack 2.0

Читать

31 июля 2016 г.

В начале августа в Москве пройдет хакатон по нейротехнологиям при поддержке МОНт

Читать

16 июня 2016 г.

МОНт, МТИ и Future Foundation проведут семинар «Extensions of ourselves»: киборгизация и биополитика

Читать

30 мая 2016 г.

МОНт, МТИ и Future Foundation проведут семинар про глобальные технологические риски

Читать

16 мая 2016 г.

В Санкт-Петербурге пройдет международный симпозиум, посвященный обработке сигналов в контексте нейротехнологий

Читать

10 мая 2016 г.

Этически нейтральны ли технологии

Читать

5 мая 2016 г.

Темой 2-го семинара по взаимодействию технологий и общества стала этическая нейтральность технологий

Читать

22 апреля 2016 г.

МОНт приглашает на «Импульс»: погрузитесь в мир современной науки

Читать

22 апреля 2016 г.

МОНт и МТИ проведут семинар о взаимодействии общества и технологий

Читать

Вернуться к списку
МОЛОДЕЖНОЕ ОБЩЕСТВО НЕЙРОТЕХНОЛОГОВ
МОНтБлогЛицаМероприятияКонтакты