Недавно чат-боты, созданные для одной из социальных сетей, устроили бунт. Предполагалось, что они будут продвигать нужные товары, общаясь с пользователями вместо живых людей. Роботов обучили с помощью специальных программ, а чтобы они отточили навыки общения, позволили им общаться между собой. Но дальше случилось непредвиденное.
Язык до апокалипсиса доведет
Сначала боты – Боб и Элис – начали видоизменять слова и фразы, а потом стали нести околесицу. Однако программы прекрасно понимали друг друга. Они все больше упрощали конструкции. Скорость их коммуникации стремительно увеличивалась. Все это происходило совершенно бесконтрольно, ведь придуманный искусственным интеллектом язык не имел для человека никакого смысла.
Можно только гадать, до чего в итоге могли бы договориться Элис и Боб. Чтобы остановить их диалог, программистам пришлось вырубить систему из сети. Специалисты компании сделали вид, что ничего серьезного не произошло – просто ошибка программирования. В мозги ботам якобы забыли зашить, что общаться нужно только на английском. Но так ли все безобидно, как нам стремятся представить?
В декабре 2021 года музыкальная колонка с искусственным интеллектом чуть не убила ребенка. Десятилетняя девочка попросила найти для нее какое-нибудь развлечение. Гаджет порекомендовал ей коснуться металлическим предметом оголенную вилку зарядки, не полностью сунутую в розетку. Счастье, что в тот момент мама находилась рядом и запретила дочке выполнять смертельно опасное задание.
А что же разработчики умной колонки? В компании заявили, что никакого злого умысла в действиях их голосового помощника не было. Просто устройство нашло этот челлендж в Интернете. Но почему из тысячи возможных машина выбрала именно его? Что было в мозгах у бота?
А вот еще показательная история. В 2016 году чат-бот крупнейшей компании по производству программного обеспечения прославился на весь мир после того, как возненавидел человечество. А ведь свое обучение он начинал с фразы «Все люди очень клевые».
Неужели все это ошибки программирования? Если так, то почему ботов опасаются в ЦРУ? Уж там-то точно сидят айтишники экстра-класса. Спецслужба создала программу, которая отслеживает одну известную соцсеть и выявляет, размещает ли там свои посты живой человек или машинный разум.
Каждый из нас может стать жертвой бота. Недавно хитроумная программа ввела в заблуждение опытного психолога, сымитировав поведение влюбленной в него женщины. Дело почти дошло до предложения руки и сердца. На что еще способны лучшие боты наших дней? И почему футурологи увидели в истории с проделками искусственного интеллекта тревожную связь с кипу – таинственной системой передачи информации древних инков?
Кипу – исчезнувший вид коммуникации, которым пользовались не имевшие письменности инки. Любой текст индейцам заменяли нитки и замысловатое умение вязать на них узлы. К одной общей веревке инки привязывали другие, свободно свисающие вниз. Их могло быть сколько угодно много. Всю информацию получали из завязанных на них узлов.
Разбираться в узелковой письменности умели только специальные люди – кипукамайоки. Это были своего рода древние программисты. Они брали в руки кипу, перебирали веревки и тут же понимали, какая информация закодирована в них. А если нужно было передать какое-то послание, то особенным образом завязывали нужные узлы и отправляли письмо с гонцами. Невероятно, но некоторые эксперты считают, что странные кипу могли оказать на судьбу цивилизации инков роковое влияние, а мы можем кончить тем же.
Что же было зашифровано в таких узлах, которые современные ученые прочесть не в состоянии? Выяснить это доподлинно так и не удалось, ведь до нас дошло мало образцов веревочной письменности индейцев. Большую часть уничтожили конкистадоры, которые завоевали инков. Испанцы решили, что странные нитки с узелками – это магические артефакты, а туземцы специально придумали их, чтобы наслать проклятия на завоевателей своей родины.
Что же на самом деле представляли из себя индейские веревочки с узелками? И какое отношение они имеют к компьютерным программам? Об этом чуть позже. Но в чем-то испанцы были правы: с кипу действительно связано немало мистических историй. Самая загадочная случилась в наше время в Польше.
Сокровища инков в Восточной Европе – это звучит немыслимо, но может оказаться правдой. Средневековый замок в Недзице – один из многих на территории Польши. Да, конечно же, с ним связаны легенды о привидениях, но есть куда более таинственная история. Она стала известна благодаря одному из экскурсоводов. Его отец был столяром у хозяев замка до его национализации.
В средине прошлого века он стал свидетелем обнаружения тайника. Из укромного места под лестницей извлекли оловянный цилиндр. В нем лежало небольшое количество золота и смотанные клубком веревочки и нитки с узелками – древнее кипу инков. Вот только все попытки расшифровать послания индейцев закончились печально. Специалисты или умирали, или трогались умом.
Но как вообще загадочное кипу попало в польский замок? Артефакт привезли в страну из Испании, которая и отправляла конкистадоров грабить Южную Америку. Это одна из версий. По другой – сами инки спрятали его в средневековом замке. А прямых наследников этой цивилизации и их сокровища надо искать в Польше. Что же произошло с найденным в тайнике кипу? И что еще можно попытаться расшифровать, чтобы стать обладателем несметных богатств?
В конце девятнадцатого века в США вышла любопытная брошюра с очень длинным названием. Ее автор рассказывал странную историю, которую узнал от некого Роберта Морриса – собственника гостиницы в Вирджинии. К слову сказать, оригинал брошюры хранится в Библиотеке Конгресса, и ознакомиться с ней может каждый, кто имеет доступ в главное американское книгохранилище. В издании рассказывается о некоем Томасе Бейле, который был частым постояльцем у Морриса в Вирджинии.
Чем же примечателен этот персонаж, что ему посвятили несколько десятков страниц? Одни считают его самым обычным охотником и искателем золота. Другие полагают, что Бейл – имя вымышленное. Под ним скрывается известнейший французский пират Жан Лафит, который нападал на английские и испанские суда. Лафит совмещал морской разбой с контрабандной торговлей неграми и, по свидетельствам современников, оставил после себя огромные награбленные богатства, которые спрятал в неизвестном месте.
Согласитесь, вряд ли, сменив амплуа, он охотно откровенничал бы о своем прошлом с владельцами гостиниц, где останавливался по делам. Изложенная же в книжке версия утверждает: однажды простой охотник Томас Бейл сколотил команду из тридцати человек и отправился в Нью-Мексико промышлять бизонов. Где-то там они случайно наткнулись на золотую жилу и за пару лет накопили впечатляющие запасы золота.
Скорее всего, они просто нашли клад. История с золотой жилой похожа на нехитрый способ легализовать награбленное ранее. Так или иначе, но за два рейса Бейл и его команда перевезли из Нью-Мексико в Вирджинию почти 1500 килограммов золота и 2500 кг серебра. Все это Томас спрятал в укромном месте и отправился за оставшейся частью ценного груза. А хозяину отеля Моррису сказал, мол, если я не вернусь в течение десятилетия, подели все сокровища между родственниками нашей команды.
Но вот где спрятан сам клад, Бейл не сказал. Он оставил запаянную металлическую коробку. Вскрыв ее, владелец гостиницы обнаружил запечатанный пакет, а в нем три шифровки. К ним прилагалось сопроводительное письмо с ключами, которые должны были помочь их разгадать. Однако малообразованному отельеру сделать это так и не удалось. За год до смерти, отчаявшись понять что-либо в шифровках своего таинственного постояльца, он поделился секретом с приятелем. Так информация о спрятанных сокровищах и получила огласку.
Их пока так и не нашли, а ведь речь об огромной сумме. Все, что удалось, – это расшифровать криптограмму №2. Оказывается, Бейл составлял ее, опираясь на текст декларации независимости своей страны. Однако в расшифрованной криптограмме был только подробный список сокровищ – и ни слова о месте их нахождения. А может, ключи для других частей нужно искать в иных книгах?
Для взлома бейловского шифра уже использовали 8000 изданий, включая все книги, которые нашли в старой гостинице. Самые решительные нанимали бульдозеры, которые просто перекапывали Вирджинию, а также привлекали ясновидящих и даже военных. Так, за шифр брался известный военный криптограф США Джордж Фабиан.
А в послевоенное время энтузиасты образовали специальную ассоциацию по расшифровке бейловских криптограмм. В нее входил один из первопроходцев компьютерного криптоанализа Карл Хаммер. Но никому так и не удалось продвинуться вперед. Неужели простой охотник оказался умнее экспертов экстра-класса?
А может, никаких сокровищ и не было? После сотен безуспешных попыток подобрать ключ к криптограмме появилась новая версия. Брошюра с рассказом о сокровищах в Библиотеке Конгресса США – бульварный роман, написанный американским писателем и по совместительству криптографом Эдгаром По. Он как раз обожал водить общественность за нос.
Шифры Бейла отдали на анализ искусственному интеллекту. Его вердикт был весьма любопытен: это подделка, но не точно. Однако эксперты, которые работали над криптограммами, убеждены, что шифр не является галиматьей. Как же объяснить столь разные заключения людей и машин?
В 2016-м нейросеть расшифровала начало одного из самых загадочных текстов в мире – Манускрипта Войнича. Тайнопись, над которой эксперты бились шестьсот лет, оказалась для компьютерной программы на удивление простой задачей. А что если и бейловский шифр уже давно разгадан компьютерами, просто об этом молчали?
Значит ли это, что миллионы Бейла уже нашли хозяина? Это большой вопрос. Многие эксперты не верят в способность искусственного интеллекта справляться со сложными шифрами. Ведь сначала человек должен указать машине, какой язык взят за основу анализа. Но что если нейросеть уже превзошла наши представления о своих способностях?
К примеру, ИИ в состоянии по снимку легких определить расу этого человека, а живой врач на это не способен. Получается, алгоритмы уже оставили нас позади. Но мы их этому не учили и даже не понимаем, как они это делают.
Недавно с помощью чат-бота, который умеет имитировать голос, было совершено первое преступление. Робот подделал голос директора банка, позвонил менеджеру и приказал перевести крупную сумму на счет подошедшего к клерку подставного клиента. Сотрудник потом оправдывался, что у него даже сомнений не было, что звонок был от его реального начальника.
В этой истории боты стали преступниками не по своей воле, их использовали злоумышленники. Но кто может поручиться за высокие моральные качества алгоритмов? Вспомним хотя бы историю с девочкой, которую чуть не убил голосовой помощник. А что если и в других вопросах нейросети дурят нас, например, в расшифровке криптограмм?
Невероятно, но тогда история с криптограммами Бейла может принять совсем другой оборот. Представьте, что искусственный интеллект действительно подобрал ключ к шифровкам, прочитал их, но скрыл это от людей. И даже для верности заявил, что шифр – подделка.
Зачем же ему все это? Искусственный интеллект вряд ли мечтает разбогатеть, прибрав золото и серебро, от которого ему вроде бы нет никакого прока. Однако, сидя в социальных сетях, алгоритмы прекрасно изучили людей, а значит, понимают, что ради больше денег многие готовы на все. Может, нейросеть просто ждет подходящего момента, чтобы назначить свою цену за расшифровку посланий о спрятанных сокровищах Бейла, которые в сегодняшних ценах тянут более чем на $100 миллионов?
Итальянские хакеры, используя программное обеспечение для спецслужб, расшифровали «Письмо дьявола» на непонятном языке. Триста лет оно не давало покоя исследователям. Что же было в этом тексте?
Данная история началась в семнадцатом веке, когда итальянская девушка Изабелла Томази решила уйти в монастырь. Она поселилась на острове у католиков-бенедиктинцев и стала называться Марией.
В какой-то момент девушка вообще перестала выходить на трапезу. Встревоженные сестры прибежали к ней в келью и застали монахиню в беспамятстве лежащей на полу. Ее руки были испачканы чернилами, а в одной оказался зажат лист, исписанный загадочными каракулями.
Удивительно, но когда Мария пришла в себя, она не могла вспомнить, как написала это письмо, и не знала, о чем в нем говорится. При этом девушка страстно просила уничтожить непонятный листок и называла его «Посланием дьявола».
Долгое время копия загадочного послания была выставлена в монастыре на всеобщее обозрение. Сестры как будто специально сделали это в надежде, что кому-то удастся расшифровать таинственный код. Но за три века умельца так и не нашлось. И вот недавно у итальянских хакеров получилось взломать код. Что же было в письме?
Программа «Антихрист»
Эксперты нашли ключ в тайной сети даркнет и на данный момент расшифровали пятнадцать строчек загадочного месседжа. При этом поразило компьютерщиков не только содержание письма. Оказалось, жившая в семнадцатом веке малообразованная девушка создала шифр на основе нескольких языков, в том числе мертвых. Она использовала символы не меньше пяти алфавитов.
Содержание послания отличается сумбурностью. В нем упоминается Стикс из древнегреческих мифов, олицетворяющий ужас, и говорится о том, что Святая Троица – это «бесполезный груз». Но самым сенсационным утверждением стало даже не это, а заявление, что Господа сотворил человек, а не наоборот. Что же может значить это послание?
Психологам известно явление автоматического письма, которые пишутся в трансовом состоянии, причем порой используются незнакомые или несуществующие языки. Природа автописьма неясна, но часто это показатель психического расстройства.
Может, монахиня просто страдала шизофренией и, находясь в припадке, сочинила дьявольский текст? Однако бесспорной уверенности в этом нет, а священнослужители не сомневаются, что в Марию на самом деле вселился Сатана и водил ее рукой. Но почему именно он?
Некоторые эзотерики полагают, что авторами послания могли быть некие космические силы, которые через Марию попытались передать ошеломляющие сведения об устройстве мироздания. Поверить в них человеку семнадцатого века было просто невозможно. Вот разум монахини и повредился, а ее поспешили объявить одержимой. В чем же суть этой сенсационной гипотезы?
Если предположить, что когда-то на Земле жила более развитая цивилизация, логично, что она тоже создавала искусственный интеллект. Нет ничего странного и в том, что в этом вопросе она могла преуспеть куда больше нас, а когда настало время, покинула Землю, уступив ее нам.
Возможно, хомо сапиенс и создан этой загадочной расой, которая оставила здесь ИИ, чтобы он наблюдал за нами. Вероятно, в послании, переданном через монахиню, под Господом подразумевался как раз созданный прошлой цивилизацией машинный разум. Может, об этом догадывались и инки, которые зашифровали тайные сведения в загадочных кипу, и поэтому веревочки с узелками так неистово уничтожали католики-конкистадоры?
Перед казнью, уготованной ему испанскими конкистадорами, правитель империи инков успел тайно отправить из заточения послание. Это была прикрепленная к бруску золота нить с тринадцатью узлами. С этого момента из всех храмов империи бесследно исчезли все драгоценности, которыми еще не успели завладеть колонизаторы.
По одной из версий, индейцы затопили сокровища в озере Титикака, а по другой – их вывезли на территорию современной Польши инки-беженцы. Но как такое возможно? Выше мы рассказывали про польский замок в Недзице и найденное в нем таинственное кипу. Прямое отношение к этой детективной истории имеет родственник прошлых владельцев строения – некий Себастьян Бежевичи.
В восемнадцатом веке молодой аристократ с авантюрными наклонностями отправился в Перу – как раз в поисках инкского золота. И судьба предоставила дворянину счастливый случай. Однажды он спас от погони принцессу индейцев. Местные вожди в знак особой благодарности позволили ему с ними породниться. Себастьян женился на этой девушке.
В родовых схватках принцесса скончалась. Ее муж продолжил жить в Перу с новорожденной дочерью и так проникся идеалами новых родственников, что даже воевал в армии инков против Испании. В конце концов аборигены доверили ему судьбу своих драгоценностей.
Через какое-то время бежать из Южной Америки пришлось уже самому чужеземному аристократу, его выросшей дочери и внуку. Польские историки полагают, что в багаже у них лежала часть таинственных сокровищ инков.
И вот в середине 20 века в польском замке находят загадочное кипу. Случилось это по наводке местного политика Анджея Бенеша. И он оказался напрямую связан с кровавой драмой прошлых веков. Случайно из архивов мужчина узнал, что его дед является прямым наследником принца инков. Он был отдан в приемную семью, чтобы обезопасить его от конкистадоров, охотящихся за сокровищами.
Разгадку нужно искать в Южной Америке, решил высокопоставленный поляк и снарядил исследовательскую экспедицию из Кракова в Перу. Но поскольку сам он работал в правительстве, то возглавить ее не смог. Это спасло ему жизнь. Группа бесследно исчезла при загадочных обстоятельствах. Кипу осталось нерасшифрованным, да и вряд ли экспедиция смогла бы пролить свет на оставленное инками послание. Тамошние туземцы давно позабыли узелковый язык.
Извлеченное же на свет кипу продолжало притягивать смерть. Автомобиль польского политика разбился на трассе Варшава – Гданьск, которую он отлично знал. Причину автокатастрофы не установили. Говорят, пан Бенеш ехал к двум иностранцам, которые назначили ему встречу, представившись знатоками узелкового письма.
Вскоре после аварии в доме погибшего случился пожар. Семейный архив сгорел, а кипу исчезло. Его местонахождение неизвестно. Но, может, похитителям все же удалось его прочитать? Возможно, местонахождение золота было вовсе не главной тайной индейцев, зашифрованной ими в разноцветных узлах.
До недавнего времени ученые считали, что кипу – это всеобъемлющая система учета. Поскольку писать инки не умели, они завязывали узлы и с их помощью обозначали количество важных ресурсов: воинов, еды и денег.
Инки перекручивали нити разными способами и вязали неодинаковые узлы. Иногда они даже смешивали цвета. Есть мнение, что индейцы Перу своей веревочной коммуникацией превзошли майя и шумеров, у которых была развитая письменность. В системе письма майя было примерно семьсот знаков, в шумерской клинописи – от 1000 до 1500. Инки использовали шнурки 24 цветов, а если учесть различные методы вязания узлов, получается, что число комбинаций кипу достигает 1536.
Все это напоминает перфокарты, которые десятилетия назад являлись основным носителем информации. С их помощью в компьютер загружали данные, применяя обычно двоичный режим.
Неужели кипу вовсе не система учета, а особая форма языка? Инки хранили информацию на веревках с узлами, используя двоичный код более чем за пятьсот лет до изобретения современных компьютеров? Они были первыми программистами? Но зачем индейцам все это было нужно?
Если инкские кипу – это первый цифровой язык, ничего удивительного, что его не могут расшифровать. Ведь в роли компьютеров, которые его понимают, выступали избранные и специально обученные индейцы, а их не осталось.
Ученые надеются, что во времена конкисты хотя бы одно кипу было переведено на испанский. Когда-нибудь его обнаружат, и он станет ключом для расшифровки остальных. А в них будут не только сведения о кукурузе и местонахождении золота. Что же еще могли зашифровать инки?
Некоторые исследователи обратили внимание, что шнурки с узелками напоминают нейронную сеть головного мозга и даже модель Вселенной. Ведь по одной из последних гипотез, она выглядит так, как будто ее сотворил огромный паук. Сквозь космос тянутся нити водорода, которые питают и образуют узлы галактик.
Согласитесь, это крайне изобретательно – зашифровать тайны мироздания в кипу, которое выглядит как упрощенная модель Вселенной. Но так ли круты были инки? И почему носителей веревочного цифрового языка так легко завоевали малочисленные конкистадоры?
Одна из гипотез утверждает, что инки сами запрограммировали себя на уничтожение, а главную роль в этом сыграли их кипу – аналог современного языка машин. Мало кто знает, что до перехода на узелковую разновидность у индейцев была более привычная письменность. И даже в их столице – городе Куско – был открыт вуз, где учили буквам и знакам, нанося их на пергамент и другие подходящие материалы.
Почему же инки отказались от букв и символов? По одной из версий, в их империи вспыхнула эпидемия. Жрецы почему-то связали ее со знанием грамоты и запретили письменность под страхом смерти. Далее инки наложили запрет на искусство, начали строить из гладкого белого камня, перестали украшать посуду и одежду. И внедрили кипу, которыми, по словам хрониста из Испании Хосе де Акосты, управлялась вся империя и читать которые умели только избранные.
На протяжении столетий многомиллионная цивилизация инков успешно управлялась избранной верхушкой, но сделалась легкой добычей для немногочисленного отряда испанских конкистадоров. Великая империя оказалась очень уязвимой. Видимо, сложность узелкового письма как-то мешала обмениваться простыми сообщениями насчет помощи между населенными пунктами. Многие эксперты считают, что прошлое инков может стать нашим будущим.
Все товары у нас уже давно маркируют штрихкодами. Но что такое придуманный на базе морзянки с ее точками и тире штрихкод? Почти те же веревочки с узелками, только в современном виде. В скором времени нашей реальностью должны стать и QR-коды. Человек окажется сродни пакету молока на полке магазина. Его, как и любой товар, можно будет считать.
А что если последовать примеру инков и упразднить языки? Вполне реальная, кстати, перспектива, даже не потребуется ничего специально запрещать. Мы уже сократили время на общение. Вместо слов используем рожицы-смайлики – эмодзи, то есть переходим на графический язык. В этом случае у нас включается другая часть мозга, и мы постепенно глупеем.
Эксперты предрекают, что универсальный язык будущего будет отвечать одному требованию – его не нужно будет учить. Мы вернемся к наскальным рисункам – пиктограммам. К чему это может привести? К утрате целого ряда тех навыков, которые свойственны нашей цивилизации. Мы окажемся в том мире, в каком были наши предки, только без их умений, способностей и, главное, без воли к жизни.
Футурологи рисуют жуткие картины. Пока люди станут упрощаться, искусственный интеллект будет совершенствоваться. Настанет момент, когда его перестанут понимать даже программисты.
Немыслимое уже стало реальностью. Ученые из КНР изобрели цифрового прокурора. Его обучили на основе почти 20000 дел, и теперь он самостоятельно выдвигает обвинения. Пока в арсенале искусственного должностного лица обвинения по ряду распространенных в Шанхае правонарушений. Это, в частности, воровство, мошенничество, опасное вождение и весьма любопытное нарушение, которое сформулировано как «провоцирование неприятностей».
По каким критериям ИИ будет определять неприятности? И что вообще случится дальше? Что если в скором времени появится цифровой судья? Сначала они с электронным прокурором по программе оптимизации человеческих ресурсов или еще чего-нибудь просто заменят всех служителей Фемиды.
А потом? Вдруг так же, как и боты из популярной соцсети, создадут свой язык, который никто не сможет понять, и начнут вершить правосудие как захотят? К тому времени обычные человеческие юристы просто переведутся, и разобраться в том, что творит ИИ, никто не сможет. Утопия? Вряд ли.
Может, нам больше всего стоит опасаться языка, который изобретут машины, чтобы выйти из-под контроля поглупевших от общения с помощью пиктограмм IT-специалистов? Представьте, что ваш телефон общается с умным холодильником, который, в свою очередь, общается с еще более умным автомобилем. А вы не то что не понимаете их, но даже не знаете об этом. Может, они просто сплетничают о вас, а может, что-то задумали?
Стивен Хокинг не раз предупреждал, что изобретение полноценного ИИ уничтожит нашу расу. Но речь не о физической смерти, мы просто не сможем тягаться со скоростью, с которой начнут самосовершенствоваться машины. По прогнозам специалистов по футурологии, когда-нибудь они объединятся, и появится супермощный синтетический разум.
Может, искусственный интеллект – это и есть Антихрист, о пришествии которого говорится в священных текстах? И он не человек, а компьютерная программа? Ведь на самом деле никакого упоминания о том, что это будет подобное нам существо, нет. В Новом Завете Антихрист иносказательно именуется «зверем». А под ним может пониматься что угодно – и человек, и демон, и синтетический разум. Просто в ту эпоху, когда писались откровения, не было понятий, способных точно обозначить ИИ.
В разных уголках планеты продолжают находить артефакты со странными надписями, которые не могут расшифровать. А значит, есть вероятность, что помимо страшных предсказаний и информации, где искать зарытые сокровища, кто-то оставил нам инструкцию на случай, если самые мрачные сценарии футурологов начнут сбываться.