ПРАВОСЛАВНЫЕ НОВОСТИ РЕГИОНА

Выбраться из сетей

12 апрель 2021

Выбраться из сетей Сегодня одним из важных вопросов для мыслящего человека, и тем более, для каждого внимательного к своей духовной жизни христианина, является взаимодействие с гаджетами, занимающее огромную часть нашего времени. Какова подлинная природа и цель того, что заставляет нас и наших детей порой полностью погружаться в мир по ту сторону экрана?

Современная американская платформа Netflix, известная не только производством зрелищных фильмов и сериалов, но и последовательным проведением в них американских идеологических клише, в прошлом году выпустила документальный фильм «Социальная дилемма» («Our social dilemma» 2020), где поднимаются весьма острые вопросы и проблемы пользования социальными сетями и сервисами на примере Facebook, Twitter, Instagram, информационной платформой Google и др., и в общих чертах рассказывается о бизнес-причинах и технических инструментах, создающих эти проблемы.

В первую очередь, это проблемы аддиктивности (цифровой зависимости), сознательной дезинформации (фейковые новости) и культивирование эгоизма, осуждения, тщеславия, зависти, ненависти к людям и других пороков. Всё это создаёт возможности для манипулирования мнениями и поведением огромной массы людей. В сложившейся ситуации небольшая группа людей решает, о чём и как думать миллиардам потребителей интернет-сервисов (население Земли составляет 8 миллиардов человек, при этом в Facebook зарегистрировано 2 миллиарда аккаунтов). Плоды манипуляций разрушительны не только для личной жизни человека, для семейных отношений, но и для общества в целом. Они приводят к глубокому разделению общества, вплоть до гражданской войны, – как утверждается в фильме. Героями в нем выступают ведущие разработчики крупнейших интернет-компаний (старший вице-президент по разработкам в Twitter, президент в Pinterest и до этого директор по монетизации в Facebook, один из изобретателей GoogleDrive, Gmail Chat, Fb pages, специалист по этике в Google и др.) – многие из них прервали свои контракты из этических соображений по причине несогласия с той политикой в отношении человечества, которую проводят цифровые гиганты. В своих рассуждениях эти люди формулируют наиболее острые тезисы, сподвигнувшие их сделать такой выбор, прогнозируют конец цивилизации и пытаются предложить выход. Приведем краткий конспект этих мнений.

Единым движущим фактором для развития всех бесплатных интернет-ресурсов является бизнес-модель, для которой технически решается задача максимально долго удерживать внимание пользователей. Время жизни пользователя, проведённое на сайте, продаётся рекламодателям. Следует осознавать, что «если вы не платите за товар, то вы и есть товар».

Для обеспечения максимальной эффективности рекламы интернет-технологии постоянно учатся предсказывать действия пользователей и провоцировать их на определённые сценарии поведения. Ежедневно технологии отлаживаются на миллиардах людей и противостоять им чрезвычайно трудно. Результатом воздействия является изменённое поведение пользователя. «Поведение людей – это единственный продукт, который создают технологии».

Чтобы научиться предсказывать действия пользователя, сервисы собирают данные о нём, в том числе психологические: информацию о его поведении в сети, о его реакции на определённые новости и тот или иной дизайн. «…Все, что вы делаете в сети, просматривается, отслеживается, измеряется, вплоть до того, на какую картинку вы решили посмотреть и сколько времени вы на нее смотрели», – говорит герой фильма. Искусственный интеллект (ИИ) имеет все возможности для систематизации и анализа этих данных, а значит, и составления на каждого пользователя цифрового досье с психологическим портретом. «Никто ранее не располагал таким количеством данных о человеке. Это беспрецедентно для истории человечества». При помощи цифровых технологий и использования гаджетов утверждается своего рода «надзорный капитализм» , где о потребителе известно практически все.

Ориентируясь на естественные потребности человека в общении, в стремлении познавать новое, опираясь на слабости (самолюбие, любопытство и др.) происходит разработка дизайна и усовершенствование новой технологии, рассчитанной на все большее потребление контента. При помощи данных об интересах пользователей, о том, что их «цепляет», при использовании знаний в области психологии, создаются дизайн и алгоритмы, подбирается содержимое новостных лент, нацеленное на создание зависимости пользователя интернет-ресурса. Лента социальной сети становится своего рода «цифровой соской» для современного человека, одержимого постоянным беспокойством и тревогой, которые намеренно подпитываются интернет-ресурсами.

«Врачи, юристы, люди, умеющие самолёты или ядерные ракеты, не знают, насколько уязвим их собственный разум. Это отдельная дисциплина. Она применима ко всем людям. Этому мы учились в лаборатории технологии убеждения в Стэнфорде: …как можно использовать комплексные знания психологии убеждения и встраивать их в технологии» (Тристан, «голос совести» в фильме – специалист по этике в Google). «Это дизайн, намеренно доведённый до крайности с целью изменить чьё-то поведение, чтобы человек совершал определённые действия, продолжал прокручивать пальцем ленту» (Тристан). «Крутишь страницу вниз, и обновляешь страницу, наверху будет что-то новое. Ещё раз – что-то новое. Каждый раз – что-то новое… В психологии это называется «позитивным прерывистым подкреплением» (Джо Тоскано, бывший experience design consultant). Ты не знаешь, когда получишь награду и вообще что-нибудь получишь – таков принцип работы игровых автоматов. Мне мало от вас сознательных действий. Я хочу копнуть глубже – в ствол мозга и внедрить в вас бессознательную привычку, чтобы запрограммировать вас на более глубоком уровне. Каждый раз, когда вы видите телефон, вы знаете, что, если заглянуть в него, можно увидеть что-то интересное. То есть вы дёргаете за ручку игрового автомата. Это не случайность. Это техника дизайна» (Тристан).

По ту сторону экрана работают тысячи инженеров и тысячи компьютеров, преследующих иные цели, нежели пользователь. Сами создатели интернет-технологий, будучи живыми людьми со своими слабостями, оказываются чувствительны к алгоритмам, которые они разрабатывают, не могут противостоять приемам, о которых знают. Социальные сети – это наркотик, вызывающий сильное привыкание.

Фильм обращает особое внимание зрителей на использование интернета детьми. Продукты социальных сетей не создавались с привлечением детских психологов, целью которых было бы защитить и воспитать детей. Действующие алгоритмы рассчитаны скорее на то, чтобы снизить достоинство и самооценку человека, что особенно губительно для незрелой психики ребенка. В результате дети и подростки начинают организовывать свою жизнь вокруг ложного ощущения совершенства, получая одобрение в виде сердечек-«лайков», которые отождествляются с реальными отношениями. А на самом деле «это всего лишь хрупкая призрачная популярность, кратковременное чувство, которое опустошает еще больше». Бьюти-индустрия работает с бешеными оборотами, благодаря интернет-технологиям привлекая все больше адептов, и предлагает коммерциализированные нереалистичные стандарты красоты. Погоня за этими призрачными идеалами вызывает тревожность, особенно у подростков; все это приводит к усилению депрессии, росту числа детских и подростковых самоубийств. Согласно статистике США, целое поколение людей, рожденных после 1996 года, стало более нестабильным, более тревожным и депрессивным – это первое поколение американцев, которое пользуется гаджетами со школы.

«Похоже, мы перешли из эпохи информации в эпоху дезинформации». «Мы создали систему, склоняющую внимание людей к ложной информации, потому что ложная информация приносит компаниям больше денег. Правда скучна, а фейковыми и ложными новостями люди делятся в разы охотнее» – утверждает герой фильма.

Социальные сети способствуют усилению поляризации, т.к. именно она не дает пользователю уйти с платформы. На основе собранных данных о пользователях для всех подбираются свои новостные ленты и даже поисковые системы выдают разным пользователям разные результаты для одного и того же объекта поиска. Таким образом, для каждого пользователя создаётся индивидуальная виртуальная среда, где он постоянно убеждается в своей правоте, и в ней отсутствует информация, которая может противоречить его взглядам. И сам человек начинает видеть и аккумулировать вокруг себя лишь «правых» сторонников собственного мнения, удивляясь «ограниченности» и «примитивности» мышления оппонентов. «У каждого есть право на свои факты и можно ни с кем не договариваться». Разнообразные слухи, сплетни и фейковые новости распространяются огромными потоками и не позволяют понять, какова же на самом деле реальность, в чём правда, и существует ли правда вообще. «Мы – люди, которые больше не общаются друг с другом. Мы – люди, переставшие дружить с близкими из-за того, за кого они проголосовали на прошлых выборах. Мы – народ, изолировавший себя, чтобы смотреть только те каналы, которые утверждают нашу правоту». Естественной перспективой такого общества становится гражданская война. «Если мы не договоримся о том, что такое правда и о том, что правда вообще существует, нам конец...» – замечает один из героев фильма. «Если у каждого есть право на свои «факты», то нет нужды идти на компромисс или объединяться… Нам нужно общее понимание реальности».

Дело не в том, что раньше не было высокомотивированных пропагандистов, а в том, что сети позволяют продвигать манипулятивные сюжеты с феноменальной лёгкостью и без больших денежных вливаний. Проблема поляризации мнений в сети приводит к тому, что разделение общества становится все более радикальным и труднопреодолимым. С помощью таких мощных дестабилизирующих инструментов в разных странах устраиваются народные волнения, беспорядки и революции.

Иногда возражают, что социальные сети и действующие в них алгоритмы – это всего лишь инструменты на определенном этапе технологического развития человечества. Герои фильма спорят с подобным мнением: «Если что-то является инструментом, то оно просто терпеливо ждет своего часа, но если это «что-то» требует от вас определенных вещей, соблазняет, манипулирует, то это значит, что мы перешли от технологической среды, основанной на инструментах, к среде, основанной на зависимости и манипуляции». Разработчики с тревогой говорят о том, что новые технологии превосходят человеческие слабости и активно их используют, подавляя личность. Для уже созданного ИИ потребитель контента (т.е. человек) не более чем элемент, который подлежит программированию на нужные сценарии поведения в разных сферах жизни (потребление, выборы, беспорядки и прочее) – разумеется, в интересах того, кто платит. И теперь у нас есть рынок, на котором торгуются человеческие фьючерсы в крупных масштабах.

Запущенные цифровые технологии, действия которых распространяется на миллиарды людей, пробуждают самое плохое в обществе и тем самым создают экзистенциальную угрозу. Сегодня можно констатировать факт, что технология провоцирует невежество, отсутствие доверия друг к другу, одиночество, отчуждение, поляризацию, отвлекает и не позволяет сосредоточиться на реальных проблемах. ИИ воспитывает новое человечество. Это касается всех, даже если вы не пользуетесь этими продуктами. Герои фильма предрекают скорый конец цивилизации, если не переломить эту ситуацию. При этом огромный разрушительный для личности и общества потенциал цифровых технологий сравнивается разработчиками с «джинном, выпущенным из бутылки», поскольку эффект превзошел для них все ожидания.

В фильме обсуждаются и возможные «методы борьбы» с действующей ныне «бизнес-моделью извлечения внимания». Возможно, «будет налог на основе объема данных, которыми располагают технологические гиганты. Это создаст им финансовую причину не собирать все данные на планете...» «В этих сферах закон еще далеко позади, но я знаю, что актуальная ситуация не способствует защите пользователей. Она защищает права и привилегии этих гигантских невероятно богатых компаний. Мы всегда будем подчиняться самым богатым и влиятельным людям или мы когда-нибудь скажем – знаете, бывают моменты, когда на первом плане национальные интересы, когда на первом плане интересы людей, пользователей? Это на самом деле важнее, чем прибыль тех, кто уже является миллиардерами».

«Мы можем требовать гуманного дизайна этих продуктов, можем требовать, чтобы нас не считали извлекаемым ресурсом – нашим намерением должно быть совершенствование мира. На протяжении всей истории прогресс начинается с того, что кто-то заявляет: “так делать глупо, мы можем лучше”».

Не все герои фильма с оптимизмом смотрят на возможность отказа от порабощающей бизнес-модели ИИ. Приведённые мнения героев фильма звучат неубедительно и противоречат одному из базовых тезисов фильма: если вы не платите за товар, то товар – это вы. Ваше внимание, ваше мировоззрение, ваши поступки, ваш стиль жизни, ваше время. Тем не менее создатели фильма конструируют визуальный хэпиэнд для пользователей, который зиждется на вере в гуманизм.

Может ли человек, который хочет бесплатно пользоваться каким-либо товаром, выдвигать требования производителю? Захотят ли заинтересованные люди отказаться от власти из «гуманных» соображений? Будут ли государства добиваться перестройки ИИ на «гуманное» отношения к пользователям или будут стремиться подчинить ИИ для упрощения управления обществом?

Для христианина это второстепенные вопросы, потому что он призван бороться не с системой, а только с собой за свободу от страстей и зависимостей. Несмотря на элементы лукавства и пропаганды, присутствующие в фильме, он полезен для осознания вреда от интернет-сервисов и уязвимости человека перед ними. Авторы механизмов манипуляции не раз указывают на неравенство сил в противостоянии пользователя цифровой системе (ИИ), которая постоянно его изучает и использует его психологию против него самого. Понимание ситуации необходимо, чтобы человек захотел освободиться от очарования сетей и преодолеть зависимость. К сожалению, зачастую человек не желает расставаться со своей зависимостью, даже зная о её пагубности.

Несмотря на большое количество рациональных замечаний, в основе фильма «Социальная дилемма» определенно лежит потребительский заказ, т.е. конкретная причина его создания тоже по-своему манипулятивна. Сама платформа “Netflix” конкурирует не с другими онлайн кинотеатрами, она конкурирует за внимание со временем нашего сна и общения с близкими. Политические элиты США оказались недовольны тем, что невозможно договориться с цифровыми корпорациями и принципиально повлиять на них так, как это было принято до этого, поскольку существующая модель технологий просто не позволяет этого сделать. Раньше было достаточно взять под контроль наиболее влиятельные СМИ в лице редакторов и ведущих журналистов – коммерциализированная модель исключает такую возможность, но пользователь и его внимание остаются в ней товаром, объектом манипуляции, который может свободно переходить из рук в руки. Гуманистическая идея перестроить финансовые стимулы в существуюшей бизнес-модели, которые приводят ко всем вышеперечисленным тревожным тенденциям, сама по себе оправданна и благородна, но ее реализацией, а также сменой модели будут руководить иные элиты – в итоге, такие же люди со своими страстями и амбициями. Все будет зависеть от того, в чьих руках окажется инструментарий. Внедрение «новой этики» как элемент идеологии активно продвигается в соцсетях – и вероятно, это тот самый инструмент цензуры, с помощью которого ситуация может быть взята под идеологический контроль. Речь идет о контроле эмоций, мнений в отношении определенных базовых позиций. Постулаты новой этики во многом противоречат христианским, в первую очередь, в отношении гендерной морали и связанных с нею вопросов. Также радикальная агрессивная позиция активизма всех видов явно противоречит духу христианства.

Рассматривать ли технологии как экзистенциальную угрозу? Как ответить на этот вопрос с аскетической и практической христианской точки зрения? «Итак, смотрите, поступайте осторожно, не как неразумные, но как мудрые, дорожа временем, потому что дни лукавы» (Еф. 5:15) – предупреждает апостол Павел, и этот совет универсален и актуален на все времена. Гаджеты – не единственное новшество, с которым на протяжении развития цивилизации и существования христианства столкнулось человечество. Все технологии на протяжении веков разрабатывались людьми и для людей – и как в мифе о Прометее, принесшем огонь, дар этот становится как источником благ, так и смертельных опасностей (в данном случае речь идет об ИИ). Это значит, что роль морального и нравственного выбора остается неподвластной техническому прогрессу, а сам этот выбор зависит от духовных и нравственных установок каждого человека, от свободы и чистоты его сердца.

Единственным путем здесь остается самоограничение и осознание всех опасностей путем получения правдивой и непредвзятой информации о действиях интернет-технологий. Эти методы относятся и к воспитанию детей в эпоху гаджетов. В первую очередь, это доверительные отношения и беседы с родителями, семейная политика в отношении цифровых устройств, но также возможны и уроки цифровой и психологической грамотности в школах, посвященные в том числе различению манипулятивных тактик, определению токсичных и вызывающих зависимость технологий, а также другим принципам информационной и психологической гигиены.



Практические рекомендации взаимодействия с социальными сетями и цифровыми хостингами (по материалам фильма «Социальная дилемма»)

1. По возможности, удалите со своих гаджетов все лишние приложения, которые тратят ваше время.

2. Отключите уведомления социальных сетей, новостей – все, что постоянно сигналит и вибрирует, забивая информацией, которая не представляет важности.

3. Пользуйтесь теми поисковыми системами, которые не хранят историю поиска.

4. Никогда не принимайте бездумно видео из рекомендаций Youtube. Всегда выбирайте осознанно.

5. Есть множество расширений для Chrome, которые удаляют рекомендации (и рекламу на Facebook).

6. Прежде чем репостить информацию, проверяйте факты: поищите источник, погуглите лишний раз. Если кажется, что этот контент нацелен на то, чтобы вызвать эмоции – наверное, так оно и есть.

7. Вы голосуете своими кликами: нажимая на ссылку, вы поддерживаете финансовый стимул, подпитывающий существующую систему.

8. Убедитесь, что получаете в своей жизни разную информацию из разных источников. Не избегайте того, чтобы видеть разные, в том числе чуждые вам, точки зрения.

9. Гаджеты и дети. Многие программисты, работающие в технической индустрии, не дают своим детям пользоваться электронными устройствами, заводить аккаунты в социальных сетях. Это связано с тем, что ребенку труднее определить для себя границы, он более уязвим для развития зависимостей. Отметим, что одним из ведущих принципов решения этой проблемы является в первую очередь собственный родительский пример самоограничения.



Приводится три простых правила, которые облегчают жизнь семьям и оправданы исследованиями:

• Выносим все девайсы из спальни. В определенное время каждый вечер. За полчаса до сна у нас все гаджеты отключены.

• Рассчитываем время пользования гаджетом вместе с ребенком. Есть множество приложений, позволяющих контролировать это время».

• Никаких социальных сетей до старших классов (например, до возраста 16 лет), поскольку это добавляет психоэмоциональную нагрузку на ребенка, которому и так непросто справляться с учебой. В процессе взросления ребенок должен получить представление о действующих технологиях и подлинной «природе» соцсетей. Этих сведений в идеале должно быть достаточно, чтобы молодая личность сознательно могла противостоять цифровой зависимости («предупрежден – значит вооружен», точно также, как подрастающее поколение должно быть информировано о вреде алкоголя и наркотиков) и использовать лишь по мере реальной необходимости. Священник Алексей Ишков

Богослов.ру/Информационно-аналитическая служба храма святого князя Александра Невского