Размышления вольного социолога (sapojnik) wrote,
Размышления вольного социолога
sapojnik

Category:

Сюжет для Черного Зеркала. Новая Реальность уже сейчас



Контуры дивного нового – ЦИФРОВОГО – мира проступают всё яснее, и эпидемия чудовищного ковида, безусловно, сыграла значительную роль в ускорении этого процесса. Прежде всего – упали все маски, и так называемые «элиты» уже не стесняются признавать, что собираются в ближайшем будущем перевести управление повседневной жизнью людишек полностью под контроль всякого рода «искусственных интеллектов», таким образом сбросив с себя эту утомительную функцию. Причем предполагается, что людишки должны быть этому только рады; еще бы – ведь «Искусственный Интеллект» будет
А) беспристрастен
Б) справедлив
В) и главное (что считается очень важным для быдла) – совершенно не подвержен коррупции!

Это ли не счастье? Некоторые философские вопросы тут, безусловно, возникают – но опять же, предполагается, что средний офисный или тем более промышленный рабочий в любом случае не захочет «сушить себе мозги» над всякой заумью, а просто и покорно примет новый порядок вещей (или, как теперь это уже принято называть, «новую реальность»).

Как ни странно, я могу похвастать, что оказался почти на передовой прогресса и уже, в отличие от многих, приобрел бесценный опыт жизнедеятельности под властью «искусственного интеллекта». Ощущения незабываемые! Вы спросите (плохо скрывая зависть), как же мне это удалось, в каком качестве? Ведь Будущее еще только впереди, вон, поджидает нас за ближайшим углом!

Отвечу: прелесть «новой реальности» я познал… как автор Дзена. И тут все строго, эксперимент отвечает всем научным критериям: ведь платформа Яндекс.Дзен как раз и управляется некой Самообучающейся Нейросетью (вы можете прочесть это в рекламных материалах самого Дзена) – то есть тем самым Искусственным Разумом! Авторы Дзена – в полной власти этой «Нейросети», которая не просто оценивает и просматривает все авторские материалы, выкладываемые на платформу, но и сама решает – что продвигать, что не продвигать, каких авторов поощрять, а каких – блокировать и выгонять. Причем (тут – внимание!) – «Нейросеть» делает это в соответствии с собственными (!) алгоритмами, суть которых известна только в самых общих чертах. Иными словами – Машина не объясняет своих действий! О причинах или мотивах (если это слово применительно к ИИ) тех или иных решений можно только догадываться. И что еще интересно: ЛЮДИ, обслуживающие машину на Дзене – ее на самом деле именно и только обслуживают (во всяком случае, этот постулат работники Дзена отстаивают со всей яростью). Они не могут изменять решения Машины, не могут точно знать их причин, не могут даже вступать с Машиной в диалог. По сути, Дзеновская «техподдержка» для авторов – практически прямой аналог античных жрецов или, если угодно, христианских священников; все, чем они могут помочь прихожанам… то есть тьфу, авторам! – это только попытаться ВМЕСТЕ с ними истолковать некие «знамения».

Давеча меня на Дзене, наконец, заблокировали навсегда. «Сколь веревочке ни виться…» Но дело не в этом мелком событии, а в том, как это было обставлено! По сути, передо мной разыграли великолепный сюжет для «Черного Зеркала» (и я даже удивляюсь, что там подобного еще не сняли). ИИ, который пока резвится на дурацкой площадке для копеечных «авторов» в Сети – это именно та капля, в которой видно Общее Будущее уже в большом мире. Для всех.

Итак, представим себе ситуацию (тут и Кафка, и «Черное Зеркало» - эх, красота!) В какой-то момент вашей обычной повседневной жизни, когда вы совершенно не чуете беды – за вами приходит полиция, и вас забирают. Вас могут «выдернуть» днем из офиса, или ночью из постели – неважно. Вас привозят в Участок, и там вас встречает Следователь. Он добрый и совсем не страшный. Это даже может быть приятная девушка.

Вы, естественно, взбешены, взволнованны, требуете адвоката, орете «По какому праву?» Девушка тут вам с милой улыбкой напоминает, что никаких адвокатов давно уже не существует, они не нужны – ведь страной управляет Искусственный Интеллект! «Ах, ну да» - говорите вы, успокаиваясь. И тут же требуете объяснить, в чем вас обвиняют.

И Следователь вам говорит, что вы обвиняетесь… ну, скажем, в Домогательстве. Довольно серьезная статья, за это полагается от 1,5 лет тюрьмы. «Как?! Когда? - снова орете вы. – Я ни в чем не виноват!»

Следователь с той же милой улыбкой говорит вам, что она, конечно же, понятия не имеет, где, когда и с кем вы совершили Домогательство. В конце концов, ведь это же вы его совершили, а не она. Она не может знать вашу жизнь так хорошо, как знаете вы. Поэтому именно вам и надо вспомнить – где, когда и с кем вы совершили столь тяжкий проступок, а вот как раз ее, Следователя, задача – помочь вам полностью восстановить картину преступления, с тем, чтобы она уже смогла на ее основании назначить вам точный срок отбытия наказания.

- Но с чего вы взяли, что я совершал это Домогательство?? – орете вы, выпучив глаза.

- Эту информацию сообщил о вас Искусственный Интеллект, - спокойно говорит девушка (она привыкла к подобным воплям). – А ИИ, как известно, не ошибается.

- Но мне нечего вспоминать! – запальчиво возражаете вы. – Я чист! Я даже вообще не знаю, что такое Домогательство! Требую меня отпустить!

Следователь-девушка вздыхает.



- К сожалению, в таком случае вам придется побыть у нас в тюрьме, в одиночной камере. Там, в спокойной обстановке, вы сможете хорошенько припомнить всё, что вы делали в последнее время – и понять, что имел в виду ИИ. А через… скажем, две недели мы встретимся с вами снова, и, надеюсь, тогда уже вы расскажете о своем преступлении. Лучше вспомните несколько своих проступков – чтобы мы с вами могли выбрать из них самый подходящий. Учтите: пока вы – точнее, мы – не поймем, за что конкретно вас обвинили – вы не сможете начать отбытие наказания, и так и будете сидеть в одиночке.

После этого милая девушка жмет на кнопку, вызывает охрану – и вас уводят. В тюрьму. «Вспоминать».

Ну, в общем, вы поняли. В Новой Реальности ни следствия, ни суда как такового не будет. Всем ведь управляет Искусственный Интеллект, а он ведь знает всё, он справедлив, беспристрастен и неподкупен. Правда, алгоритм его работы понятен лишь в самых общих чертах (поэтому, к примеру, даже точного определения «Домогательства», равно как и любого другого преступления, не существует).

Поэтому, если вас вдруг все-таки «привлекли», ваша задача – фактически самому ПРИДУМАТЬ себе состав преступления, степень вины и прочее. Но – опираясь, конечно же, на вашу реальную прошлую жизнь и реальные воспоминания, туфта тут не пройдет! «Следователь» тут вам и в самом деле плохой помощник – он/она ведь и впрямь знает о том, чем недоволен ИИ, не больше вашего.

И – важный прикол: даже если вы – вместе с целой толпой «следователей» - составите сколь угодно живую и подлинную явку с повинной, припомните малейшие детали того, что могло бы, как вам кажется, сойти за «домогательство» - это вовсе не гарантирует вам, что ИИ это примет. Может, примет – а может, и нет. Если нет – вам придется и дальше БЕССРОЧНО сидеть в камере-одиночке, а раз в 2 недели – или реже – вас будет вызывать на допрос «следователь» и монотонно предлагать «еще подумать», «напрячь память», вспомнить «а может быть, у вас были не преступные действия, а преступные намерения? Наш ИИ их тоже чувствует, и это тоже может быть наказуемо!»

И вариантов у вас никаких нет, что особенно пикантно: апеллировать, писать жалобы НЕКОМУ. Они просто не предусмотрены в этой системе. Да и кто, право слово, может контролировать Искусственный Интеллект, который по определению непогрешим? Удивительна сама постановка такого вопроса!

Вы скажете, что это все мои глупые фантазии, и в жизни ничего подобного просто не может быть. Нет – всё, что описано, реальная, даже рутинная практика работы ИИ Яндекса. За месяц до меня аналогичным образом Дзен заблокировал известную авторшу Настю Миронову. У нее было несколько десятков тысяч подписчиков, записи набирали под полмиллиона просмотров – но все закончилось буквально в одночасье: с какого-то момента Яндекс.Дзен просто перестал показывать ее посты пользователям. Миронова – в Поддержку, ей там объясняют: наш ИИ нашел в ваших текстах на канале «кликбейт».
- Где? – спрашивает Миронова.
- Не знаем, - стандартно отвечают ей. – Это же ваш канал. Вам лучше знать. Найдите записи с кликбейтом и удалите их, через 2 недели снова обратитесь к нам.
- Но у меня нет кликбейта!
- Этого не может быть, ИИ говорит, что есть. Поэтому на это время ваш канал будет заблокирован.
Далее чуть не месяц старательная Миронова рылась в своем канале (где несколько сотен статей), искала «неправильные», обсуждала их с «технической поддержкой». Те тоже пытались понять, действительно ли с ними что-то не так. Потом предлагали «на всякий случай» сомнительные статьи удалить… А потом подождать несколько дней, и посмотреть – смилостивится ли ИИ? Снимет ли блокировку?

Ах, нет? Не снял? Ну давайте тогда подумаем, что еще можно удалить.

Я надеюсь, вы поняли Принцип «Новой Реальности». Принцип прост, как всё гениальное: «Клиент сам себя обслуживает». Апеллировать не к кому, презумпции невиновности нет, принцип работы Карающих Органов принципиально непостижим.

Еще б добавить – для смотрибельности – какую-нибудь боковую любовную линию – и можно снимать! Например, у Героя есть жена (подруга), она поначалу, узнав об аресте, бежит в Участок спасать своего возлюбленного, тоже кричит «это какая-то ошибка!» - но, узнав, что герой обвиняется в Домогательстве (неизвестно к кому и неизвестно когда) – тут же в нем ужасно разочаровывается и даже проникается к нему презрением. Так что дальше Герой сидит уже в полном одиночестве, ему даже передачи никто не носит.

Ведь Искусственный Интеллект не ошибается, и это все знают.
Subscribe
  • Post a new comment

    Error

    default userpic

    Your reply will be screened

    Your IP address will be recorded 

    When you submit the form an invisible reCAPTCHA check will be performed.
    You must follow the Privacy Policy and Google Terms of use.
  • 276 comments
Previous
← Ctrl ← Alt
Next
Ctrl → Alt →
Previous
← Ctrl ← Alt
Next
Ctrl → Alt →