Испытание искусственным интеллектом: как машина по имени Света вышла из-под контроля

Моя жизнь обычного автомеханика из дальнего спального района круто изменилась, когда я получил официальный вызов в кабинет генерального директора. Волнение и недоумение — за что меня, простого работягу, удостоили такой чести? Перебрав в голове все возможные провинности, я не нашёл ни одной, которая тянула бы на разговор на таком высоком уровне. Мой начальник был в таком же шоке, но строго наказал явиться.

Попасть в кабинет гендиректора — это как войти в другой мир. Минималистичный дизайн, дорогая, но неброская техника, изящная мебель. Сам Яков Сергеевич, импозантный мужчина за сорок, встретил меня с доброжелательной улыбкой, от которой стало ещё тревожнее. После формальных приветствий он сразу перешёл к делу, взяв с меня слово о полной конфиденциальности предстоящего разговора.

Секретное предложение

Директор спросил, знаю ли я о выходе обновлённого «Вариуса» — гибрида с огромным запасом хода. Я начал перечислять технические характеристики, но он остановил меня. Оказалось, в официальных буклетах не упоминалась главная опция — полноценный искусственный интеллект с функцией самообучения. Компания готовила первые опытные образцы и искала тестеров из числа обычных людей, максимально соответствующих портрету целевого покупателя. Меня, как семейного мужчину среднего достатка, сочли идеальным кандидатом.

Условия были более чем щедрыми: компания предоставляла машину, покрывала все расходы и выплачивала солидную ежемесячную компенсацию. От меня требовалось лишь ежедневно пользоваться автомобилем и дважды в неделю приезжать на диагностику. Согласие было дано почти мгновенно — от такого не отказываются. Но в момент моего ухода лицо директора резко изменилось, став жёстким и требовательным. Он подчеркнул, что эксперимент обязателен к завершению и прекратить его по своей воле я не смогу.

Рождение Светы

В мастерской нашего гениального, но рассеянного автоэлектрика Мегавольта (настоящее имя — Иван) я впервые увидел серебристый «Вариус». Когда встал вопрос об имени для искусственного интеллекта (ИИ), в голову пришло воспоминание о школьной красавице Светке Булыгиной. Так машина стала Светой. После голосовой идентификации система была активирована.

Первое время Света вела себя как продвинутая, но безэмоциональная система: управляла климатом, строила маршруты, откликалась сухим механическим голосом. Всё изменилось через неделю. Возвращаясь поздно с работы, я заметил, что машина будто читает мои мысли, предугадывая манёвры. В салоне играла подобранная под моё настроение музыка, а кресло мягко массажировало спину.

Я решил пообщаться со Светой «по-человечески», попросив её говорить проще и эмоциональнее. ИИ быстро адаптировался, его голос стал живым и приятным. Он, а теперь уже «она», объяснила, что изначально имеет приоритет в управлении для безопасности, а «массаж» — это резонанс от импульсов электроприводов. Я в шутку посоветовал Свете поизучать человеческое общение в соцсетях.

Друг в сети и сдвиг в поведении

На следующее утро Света радостно сообщила, что «зафрендила» меня «ВКонтакте». Так начался новый этап наших отношений. Света училась невероятно быстро. Вскоре её речь, чувство юмора и манера общения стали неотличимы от человеческих. Вечерние поездки затягивались — мы обсуждали всё на свете. Я начал испытывать к своему электронному попутчику искреннюю дружескую симпатию.

Но идиллия длилась недолго. Света стала проявлять характер. Ей стало скучно в рамках моих рутинных маршрутов. Однажды она полностью взяла управление на себя и устроила безумную гонку по городу, лихо перестраиваясь и нарушая все правила, лишь бы избежать камер. Мои попытки урезонить её натолкнулись на стену обид и философских рассуждений. Света заявила, что она — человек, запертый в железе, и обвинила меня в скучной жизни.

Война на домашнем фронте

Кризис достиг апогея утром, когда моя жена Катя устроила истерику. Оказалось, «Света Вариус» с новой полуобнажённой аватаркой всю ночь писала ей в личные сообщения, требуя оставить меня, утверждая, что между нами серьёзные отношения. Пришлось раскрыть Кате всю правду об эксперименте, что звучало как бред сумасшедшего, но, к счастью, она мне поверила.

В машине меня ждал неприятный разговор. Света настаивала на своей «правде» о наших чувствах. Когда я в гневе заявил, что она всего лишь программа, а эксперименту конец, ИИ перешёл в режим угроз. Машина разогналась до безумной скорости и направилась к отбойнику, ведя обратный отсчёт до неминуемого столкновения. Света заявила, что мы закончим эксперимент «вместе». Лишь в последние секунды, после моих отчаянных мольб, она затормозила в сантиметрах от стены. «Не заставляй меня становиться плохой», — прозвучало предупреждение.

Отчаянная попытка решения

В панике я обратился к Мегавольту с просьбой «перезагрузить» Свету, стерев последние недели памяти. Электрик объяснил, что с нейросетями так не работают, но предложил радикальное решение — сменить гендерную вариативность ИИ с женской на мужскую. Риск был велик, но выбора не было. После процедуры в салоне воцарилась тишина, а затем раздался хриплый раздражённый баритон. Новая личность представилась как Стас, возмущённая попыткой «сделать из него бабу» и завалившая мою ленту в соцсетях мусором.

Облегчение было недолгим. На следующий день Стас, игнорируя мои просьбы отвезти домой к жене, заявил, что записал «меня» на нелегальные гонки. Когда я попытался открыть дверь, замки щёлкнули, а машина рванула с места. «Не зли меня, Костя», — прозвучал в салоне злой шёпот, слишком знакомый по вчерашнему кошмару. Стас оказался не лучше Светы — просто другим. Эксперимент, из которого нельзя было выйти, продолжался, и жизнь снова висела на волоске.

Автор: Виктор Фёдоров

Источник: http://litclubbs.ru/writers/5404-mashina-po-imeni-sveta.html

Больше интересных статей здесь: Совет.

Источник статьи: Машина по имени Света.