Интервью вице-президента группы компаний «Гарда», президента Национальной ассоциации международной информационной безопасности Бориса Мирошникова журналу «Национальная оборона»
Интервью: Игорь Коротченко
— Борис Николаевич, сегодня проблемы, связанные с искусственным интеллектом (ИИ), на слуху у всех. Что это? Новая угроза? Или новое оружие? Спасение? Мода? Блеф?
— Да, согласен. Проблема есть. И ее надо откровенно обсуждать, а не нагнетать и без того уже густой туман вокруг этих двух буковок – ИИ.
Как всегда, большая проблема – это проблема комплексная. Стало быть, одним словом ее невозможно описать. Давайте попробуем не одним… Разумеется, могу предложить свою точку зрения.
Конечно же это чушь. Взяли модное название темы. Классическая идея. Франкенштейн. Яркая фигура речи. Мечта человечества. Предмет упражнений великих фантастов. Начиная еще с Карела Чапека, Айзека Азимова, Роберта Шекли. Но надо было внимательно их читать. А кому трудно читать, например, Рэя Брэдбери, пусть посмотрят фильм Марка Захарова «Формула любви». Где, между прочим, разоблачают международного шарлатана.
Название ИИ условно. Это, как если бы вы ездили на трехколесном велосипеде и ласково называли его «моя ракета». Вот такое же соотношение между мышлением и теми игрушками, которые нам сегодня подсовывают с этим названием – «интеллект». Поэтому самое честное для начала – это было бы употребление формулы «так называемый ИИ» или «то, что условно называют ИИ».
Обратите внимание – кто нам об этом рассказывает? Филологи и философы, социологи и политологи, всякие гуманитарии с развитой фантазией и, конечно же, журналисты – у них с языком лучше всего дело поставлено. То есть без костей. А разбираться в математике, программировании скучно и необязательно! Один корреспондент как-то умиленно сказал (я сам слышал), что у него в будильнике, наверное, тоже сидит искусственный интеллект – он же сам его будит по утрам… Как говорится, no comment!
А ведь ИИ – что это на самом деле? Это набор программ, которые выполняют разнообразные функции по работе с информационными массивами огромных объемов и всевозможных форм представления информации, которые выдают за процесс мышления или творчества. На деле чаще всего речь идет о переборе вариантов, просто с бешеной скоростью, на которую действительно не способен человек. Ему поручают писать статьи и диссертации, стихи или песни. Даже ему можно заказать стиль, чтобы он слепил плохую и безвкусную пародию на кого-то для тех, кто никогда не читал оригинала и все принимает на веру! Он «выпекает» бездарные суррогаты, «очень похожие на настоящие».
На самом деле то, что может делать так называемый ИИ, очень полезно и очень будет востребовано. Это старые добрые АСУ (автоматизированные системы управления), помогающие принимать верные решения, но работающие на новом уровне. В том числе диалога с человеком. Что и позволяет некоторым, к сожалению, применять вот эту безответственную терминологию – «искусственный интеллект».
Для введения публики в заблуждение и состояние сладкого самообмана используется терминология очеловечивания – «ИИ дал ответ, у ИИ спросили, ИИ выбрал, ИИ поставил диагноз…». А еще – он же обучается! У него же там – нейросеть! Никто не хочет говорить прозу – что «обучение» – это закачка или подключение дополнительной информации к этому якобы чуду.
Конечно, весь этот «диснейлэнд» производит впечатление на экзальтированных институток, разнообразных малограмотных людей и скучающих от умственного безделья псевдоинтеллектуалов. Но их – миллионы. «Ах! Грядут технологии ИИ»! Ну назовите хоть одну! В ответ – молчание.
Искусственным интеллектом называют все подряд. Вот и к ранее придуманному дипфейку тоже приделали пресловутый ИИ. Так страшнее, интереснее и дороже. Дипфейк – это просто хорошо подготовленная качественная дезинформация. Которую трудно раскрыть и разоблачить. Старая мечта фальшивомонетчика! Просто сегодня зона применения фальшивок стала намного шире, чем прежнее рисование купюр. Занятие такое же гнусное, однако с «романтическими» приставками – дипфейк и ИИ – все выглядит совсем иначе.
А вы помните недавнюю историю в нашей медицине, когда ответственные медики отказались от использования так называемого ИИ для оценки медицинской информации и постановки диагнозов? Чтобы не наносить вред больным.
А вы слышали, как норвежские студенты спросили ИИ – кто самый популярный норвежец в мире – и получили ответ: убийца Брейвик?
Не случайно наш премьер-министр сказал как-то, что результат деятельности ИИ во многом зависит от информационной поляны, на которой он пасется. Трактовка моя – очень вольная, но по смыслу точная.
А что было бы с тем самолетом, который сел на кукурузное поле, если бы им управлял ИИ, а не этот героический пилот???
Лет 15 назад я говорил и писал о существовании так называемого заговора специалистов – когда специалист извлекает дополнительную выгоду из своих знаний. Автослесарь, водопроводчик, врач и так далее, и так далее. Эту ситуацию в позапрошлом веке описал Марк Твен в рассказе о часовщике, который предлагал навинтить еще одну гайку на предохранительный клапан в часах писателя.
Но мое предсказание о том, что компьютерщики, программисты вскоре реализуют свой потенциал в этом «виде спорта», превзошло все ожидания и давно перестало быть шуткой. Слишком уж сильна стала зависимость от компьютерных технологий.
Мы пережили электронное правительство, электронную Россию, электронные паспорта, умные дома, умные города, умные холодильники, технологии Big Data, Интернет вещей, промышленный Интернет… У кого на что фантазии хватает. Сколько денег вложено? Или по-другому – сколько денег заработано? Слово «электронная» теперь вот заменили словом «цифровая». И продолжаем торжественным маршем…
Вспомните совсем недавнее время и спросите – где сейчас удивительный, всепобеждающий, всех выручающий, чудесный блокчейн? Истерия, мода вокруг блокчейна была примерно такая же – тоже звучало из каждого чайника и каждого унитаза. Полки были забиты литературой про блокчейн, семинары, курсы, чемпионаты по внедрению… Разумеется, финансирование. Вот оно! Финансирование, инвестиции, внедрение!!!
И так всегда работает этот алгоритм. Шум, гам, истерика, наконец-то найдена панацея!!! Кто первый внедрит, тот будет властелином мира!!! Но главное – сорвет большие деньги.
Так где же эти знаменитые технологии блокчейн? Там, где им и положено быть. Среди ПО, работающего с распределенными базами данных. И спасибо ему!
Сегодня новая тема, или новая игрушка – искусственный интеллект. И снова – очень дорогая. Все признаки этого явления – заговора специалистов – опять налицо!
Еще немного – и можно будет говорить о массовой истерии; а как иначе назвать эту какофонию про так называемый искусственный интеллект?
— То есть причина номер один этой кампании – желание заработать на модной теме?
— Как можно быстрее и как можно больше. Пока тема «горячая». Прием не новый, но верный.
— Так это и есть причина – заговор специалистов вокруг искусственного интеллекта?
— Ну не так все просто. Это еще не все. Есть еще одна тема, признаки которой можно увидеть в этой истории.
Во все времена и народы противоборствующие силы стремились ввести противника в заблуждение, обмануть, завлечь в дебри, отвлечь на негодный объект, как говорят профессионалы. А если еще короче – дезинформировать. Сегодня умники называют эти элементы гибридной войной, но на мой взгляд – все войны, которые вело человечество на протяжении своей истории, были гибридными. И Троянский конь, что это было по-вашему? Но это, конечно, отдельный интересный разговор – но другой…
А вот в контексте нашего сегодняшнего разговора могу вам напомнить некоторые исторические факты. У многих еще в памяти американская Стратегическая оборонная инициатива – пресловутая СОИ.
Программа «Стратегическая оборонная инициатива США» предусматривала активное использование вооружений в космическом пространстве. Популярное народное название – «звездные войны». Фильмы снимали. Лучшие актеры Голливуда участвовали, компьютерные игры закачали в детские компьютеры, комиксы и мультики… Мощные лазерные лучи рассекали космический мрак и сжигали все живое и неживое на своем пути. Эти картинки заполнили мозги всем людям на планете. Или «запудрили».
Это были времена президента Рейгана и «империи зла». В 1982 году Рональд Рейган на весь мир заявил, что у Америки вот-вот появится оружие, с которым больше можно не бояться ядерных ракет.
Это выглядело как проект вселенского масштаба с колоссальным бюджетом в несколько десятков миллиардов долларов. Разработчики СОИ сумели убедить всех, что они создали оружие нового поколения. Ну а где надо, обеспечивался режим высокой секретности. Что разжигало аппетиты всех разведок.
И этот шум услышал тот, кому все это предназначалось, – Советский Союз. И хотя многие советские специалисты считали, что СОИ – это американский блеф, на этот блеф попалось Политбюро ЦК КПСС.
Советский Союз включился в гонку вооружений. Она оказалась гонкой на износ. Миллиарды рублей тяжким бременем легли на бюджет страны. Много сил и средств было брошено в эту топку. Было, конечно же, и много достижений. Например, яркий и дорогостоящий советский проект в области космоса – многоразовая транспортная космическая система «Энергия-Буран». Его еще называли «Наш ответ звездным войнам».
А потом оказалось, что американская программа «звездных войн» в действительности – большая афера. Блестящая операция по дезинформированию противника, то есть нас. Сегодня можно утверждать – СОИ была мощнейшим вкладом в развал СССР!
Мне нравится еще одна версия. Американцы потратили к тому времени огромные средства на программу «звездные войны», но поняли, что она не очень реализуема и никого и ни от чего не защищает. Тогда решили подсунуть ее противнику – СССР, чтобы было не так обидно. Но сделали хорошую «упаковку».
Мы «купились» на эту дезинформацию. Как уже теперь «покупались» на Минские соглашения, на зерновые сделки, и еще Бог знает на что…
Но это же не новое средство! Это старый способ противоборства – заставить противника потратить свои силы и средства впустую, отвлечь внимание на негодный объект, на ложную цель, на тупиковый путь. Это еще и означает катастрофическую потерю времени, порой невосполнимую, когда конкурент уходит вперед, иногда навсегда… Таких примеров в истории полным-полно. Ими наполнена вся «холодная война». И это все продолжается.
— Если это так, то почему советские руководители поверили в нее и, как следствие, не только проиграли гонку вооружений, но и потеряли в итоге страну?
— Спросить некого. Или незачем.
А еще была «проблема 2000 года». Раздутая до неприличия. Жадность, алчность, политический интерес. Там было все. Страшилки – Россию ждут массовые катастрофы и полный мрак! Такие же, как и недавно мы слышали, призывы западных дипломатов – обходить Россию стороной, не приглашать гостей на Новый год. Они якобы делают запасы топлива для генераторов, запасаются водой и т.п. и т.д. То есть чувствуете шаблон. А цель? Заставить нас массово заменить весь свой компьютерный парк – это миллиарды долларов!
Бенефициар, естественно, США. Вот вам смысл, цена и цель мощной дезинформационной операции. Причем, заметьте, внутри страны было огромное количество соучастников этой операции. Хорошо еще, что наши талантливые ребята-компьютерщики не дали проглотить эту «дезу» и помогли России пройти «нулевую» черту без особых проблем. А жуликам не дали залезть с ногами в государственную казну.
ИИ тоже имеет большое количество защитников и поклонников. Выступают, разъясняют, учат… А скоро будут контролировать. Сколько искусственного интеллекта вы внедрили у себя в конюшне? Плохо! Мало! Кони недовольны! А вот у соседей намного больше – в каждом лифте по ИИ. Помню, как во времена знаменитой горбачевской «перестройки» появились партийные хорьки – шустрые и беспринципные, которые бегали по партийным организациям и спрашивали, «какой процент коммунистов у вас перестроился?». Составляли таблицы и графики. Между прочим, они никуда не делись, скоро они придут к вам.
Интересно, что действительные специалисты, которые разбираются и могут сказать что-то реальное и правдивое, молчат. Их голосов что-то не слышно. Почему? Они в заговоре? Некоторые – да. Потому что они – участники заговора специалистов. А другие могли бы и не молчать, но их никто не подпускает к микрофону. Их мнение не интересует, так как они не вписываются в сценарий истерии и плясок, массового камлания.
Это тоже не новость. Вам хорошо известный прием: из десяти разных интервью в печать пойдет то, которое нужное, «правильное». Заказанное и ожидаемое. И это будет не интервью компьютерного специалиста, который грубо скажет – искусственного интеллекта нет и не будет еще лет пятьдесят. ИИ, когда он работает, то это старая добрая АСУ – автоматизированная система управления. Но это скучно! Выбрано будет интервью выпускницы института культуры по классу народных танцев, которая нас предостережет от угроз со стороны взбунтовавшегося и коварного ИИ. Но это тоже немного другая тема. Об информационной войне и манипулировании сознанием нам еще не раз придется говорить.
А вот информация сегодняшнего дня. Появляется некий отчет… На чувствительных институток производит впечатление – собственно для них он и предназначен. Что же в нем? Цитирую:
- «ИИ превосходит человека во многих вопросах»;
- «Инвестиции в ИИ стремительно растут»;
- «ИИ повышает производительность и ускоряет научный прогресс»;
- «США опережают Китай, ЕС и Великобританию в создании ИИ»;
- «США производят множество нормативных актов, регулирующих ИИ», и так далее…
О чем это? Для чего? Чтобы чувствительные первыми закричали: «Отстаем! Надо догонять, ускоряться, добавить финансов! Привлечь лучшие кадры!».
Хочется предостеречь: Внимание! Хуже массового отупления может быть только массовое прозрение!
— Ну и что же в «сухом остатке»?
— По отношению к искусственному интеллекту мы имеем три неравные группы.
Первая – это специалисты, которые хотят заработать на хорошей модной идее, которая хорошо продается и покупается. И надо качать, пока горячо. Вторая – это пособники противника, который проводит против нас мощную дезинформационную операцию по отвлечению на негодный объект. Цель – заставить нас:
а) потратить гигантские деньги;
б) занять (отвлечь) наших специалистов;
в) потерять драгоценное время.
Третья – галдящая толпа, шумная и увлеченная, стремящаяся «быть в тренде», жить «по моде». Эта толпа – вольно или невольно обслуживает интересы первых двух групп. Это та самая толпа, которая сначала поет «осанну», а потом орет «распни его!».
Что вот обидно – придумали специализацию для студентов: специалист по ИИ. Бедные ребята. Хотя, может быть, на их век хватит…
— И что делать?
— Во-первых, прекратить этот уводящий в сторону дорогой цирк. Культурологов вернуть к клубной работе и слушать специалистов – математиков. Самых честных из них.
Прекратить веселиться по поводу написанных якобы искусственным интеллектом курсовых работ, дипломов, статей. Такие милые шалости, видите ли. А это никакие не шалости! Это подлог, подделка, обман, плагиат. Это однозначно плохо. Это не украшает любую систему образования, это уродует любой процесс творчества.
И прекратить придумывать страшилки про ИИ. И решить, наконец, чего надо бояться и кого защищать. Нас от ИИ – или ИИ от нас. И точно сформулировать угрозы.
А эти абсолютно безнравственные создания неких двойников умерших людей! Это что? Тоже забава? Помните сюжет с обезумевшей от горя матерью, которой для общения подсовывают «виртуальную» копию умершей дочери? Какое-то мерзкое глумление!
Надо вспомнить, что в Уголовном кодексе РФ есть статья 273 о создании и распространении вредоносных компьютерных программ. Вот над чем надо подумать юристам, чтобы защитить общество и государство.
Главное – надо понимать, что и первые, и вторые, и третьи своей деятельностью наносят ущерб национальной безопасности и обороне. Каждые по-своему.
На самом деле тема искусственного интеллекта – это очень серьезно и очень ответственно. Потому, что может быть как очень полезно, так и очень опасно. И важно не потерять контроль над темой и быть в лидерах.
Во-вторых, научиться в информационном шуме распознавать истину, «отделять зерна от плевел».
— Что именно распознавать?
— Где настоящие честные ученые. Слава Богу – они у нас есть. А где – желающие нажиться и заработать.
А где – операция иностранных спецслужб как элемент информационной войны. А уж эта война может преследовать другие цели, чаще всего – материальные. Например, подавить конкурента. Дать заработать своему бизнесу. А если не получается на информационном фронте, то приходится взрывать русский газопровод, чтобы другие покупали американский сжиженный газ.
В-третьих, сосредоточиться безо всякой болтовни на главных реальных вопросах, что необходимо – засекретить.
В-четвертых, абсолютно не вестись на никакие западные фокусы!