Еврокомиссия рассмотрела возможные риски, связанные с искусственные интеллектом на примере ChatGPT. По этому вопросу есть две крайности. Одни считают, что ИИ нас спасёт и избавит от работы (по формуле — вкалывают роботы, а не человек), другие убеждены в угрозах от искусственного интеллекта.
Я согласен с мнением о том, что техническим развитием важно управлять, но не тормозить. При этом на технику нужно надеть «этический намордник». По этому поводу хочется поделиться с вами самым нефантастическим из фантастических романов, которые мне недавно удалось прочесть.
«Сфера»—научно-фантастический роман с элементами антиутопии американского писателя Дэйва Эггерса, написанный в 2013 году. Критики роман сравнивают с антиутопиями «1984» Джорджа Оруэлла и «О дивный новый мир» Олдоса Хаксли.
Эггерс описывает ситуацию недалекого будущего, которая лишь отчасти выглядит фантастической. В США создана компания «Сфера», которая пропагандирует идеи абсолютной прозрачности жизни человека, в особенности политиков. Каждый, кто стремится доказать, что ему нечего скрывать от других, постоянно носит на себе видеокамеру. Её разрешается выключать только в туалете или при отходе ко сну. Политики, которые отказываются от прозрачности, обречены на неудачу на выборах, поскольку у всех возникает подозрение, что им есть что скрывать.
Главный аргумент в пользу прозрачности – люди, которые находятся на виду, всегда ведут себя лучше. Компания предлагает заменить громоздкие выборы мгновенным голосованием через её ресурсы, причем по любому сколько-нибудь важному вопросу (электронная
демократия).
Другой проект – вживление чипов в берцовые кости детей, чтобы они всегда находились под контролем родителей, не подвергались насилию и похищениям (понятно, что вживлённые чипы у большинства останутся пожизненно).
Третий проект – раскрытие истории семей от далеких предков до современности.
Одна из героинь романа Энни, которая гордится своим аристократическим происхождением, выясняет сначала, что ее предки были рабовладельцами, а затем, что ее родители наблюдали гибель бомжа в морских водах, ничего не сделав для его спасения. В итоге попадает в больницу с глубоким нервным расстройством.
Один из создателей компании «Сфера» Тай Господинов (он же – таинственный Калден) приходит к выводу, что процесс зашел слишком далеко и стал гибельным для человечества, но остановить движение уже не может. Политики, которые пытаются противиться всеобщей прозрачности, подвергаются провокациям. Например, в их компьютерах легко находят порнографию (видимо, подброшенную).
Главная героиня романа Мэй Холланд полностью предана идее прозрачности и ради неё предает своих родителей и двух любовников.
Книга завершается тем, что Мэй сидит у постели лежащей в коме Энни и размышляет, с помощью какого приложения можно было бы узнать, о чём сейчас думает та, считая «оскорблением» для себя и «лишением» для самой Энни и для мира невозможность чтения мыслей людей.
В итоге «Сфера» уничтожает частную жизнь и позволяет манипулировать огромными массами людей в интересах увеличения прибыли и политического влияния. Причем подавляющее большинство граждан активно поддерживает эти проекты. И это самое печальное, что воспитанные технологией люди одобряли уничтожение своей частной жизни.
Также рекомендую к прочтению «О дивный новый мир» Олдоса Хаксли и «Час быка» Романа Ефремова. А вот Джордж Оруэлл, на мой взгляд, принял кратковременную тенденцию за тенденцию большой эпохи. Главная угроза человеческой свободы и частной жизни исходит не от казарменного коммунизма, а от рыночного цифрового концлагеря.
