Государственные инициативы.
- Минцифры опубликовало проект существенных изменений требований к ГИС. Для общественного обсуждения опубликован разработанный Минцифры проект постановления, приводящий требования к государственным информационным системам (ГИС) в соответствие с нормами закона о ГИС, который вступит в силу с 1 сентября 2026 года. Законом, напомним, вводятся понятия федеральных и региональных ГИС, иных информационных систем государственных органов. Операторы этих ГИС будут обязаны взаимодействовать с системой обнаружения, предупреждения и ликвидации последствий компьютерных атак на информационные ресурсы РФ (ГосСОПКА). Проектом постановления предусматривается, в том числе, установление требований об осуществлении информационного взаимодействия с иными ИС, в том числе не являющимися государственными; для этого ГИС могут использовать элементы инфраструктуры электронного правительства. Для информационного обмена с иными ИС также необходимо поддерживать во ФГИС «Единая система нормативной справочной информации» актуальность нормативной справочной информации, а также сведений, используемых при межведомственном информационном взаимодействии при предоставлении госуслуг в электронной форме.
- Утверждён состав глобальной научной группы ООН по искусственному интеллекту – представитель РФ вошёл. Генеральная Ассамблея ООН утвердила состав участников независимой международной научной группы по искусственному интеллекту (Independent International Scientific Panel on Artificial Intelligence), в него вошли 40 человек, сообщила организация в четверг; в том числе начальник Центра человекоцентричного искусственного интеллекта Сбербанка Андрей Незнамов. Как уточняет ООН, избранная на три года группа («сбалансированная по географической и половой принадлежности») создана «для содействия научному пониманию, в том числе для того, чтобы публиковать результаты проведенных с использованием фактических данных научных оценок, обобщая и анализируя существующие исследования, касающиеся возможностей и рисков, связанных с искусственным интеллектом, и его воздействия, в виде одного ежегодного сводного доклада, имеющего отношение к политике, но не носящего предписывающего характера, и содержащего тематическую справочную информацию, которую она сочтёт необходимой, руководствуясь принципами независимости, научной достоверности и строгости, междисциплинарности и инклюзивного участия». Ранее, напомним, ООН приняла резолюцию с призывом расширять участие развивающихся стран в цифровом преобразовании, их возможности в плане подключения к цифровой инфраструктуре, предоставлять доступ к технологическим инновациям.
Инциденты и угрозы.
- «Потерять» Швейцарию, но получить полмиллиарда от Пентагона. Как «выживает» Palantir с американским кодом внутри. Армия Швейцарии завершила проверку безопасности программных платформ Palantir. Швейцария разорвала контракт с американской компанией по анализу данных Palantir после проверки безопасности, и причиной стали не технические недостатки. Военные признали программные платформы качественными, но решили, что риск доступа иностранных спецслужб к оборонным данным слишком велик для нейтральной страны. Проверку провело командование вооружённых сил Швейцарии. В отчёте говорится, что решения Palantir работают на высоком уровне, но существует значительная вероятность того, что конфиденциальная информация может оказаться доступной властям США. Для государства, которое не входит в военные союзы и делает ставку на нейтралитет, такой сценарий сочли неприемлемым. Контракт был прекращён. Ситуация может повлиять и на другие страны, которые сотрудничают с компанией. По данным источников, украинские структуры, использующие программные инструменты Palantir с 2022 года для планирования восстановления инфраструктуры, начали осторожно пересматривать формат взаимодействия. Главный вопрос для государственных заказчиков связан с тем, где именно обрабатываются критически важные данные и под чью юрисдикцию подпадает поставщик платформы. При этом на внутреннем рынке США позиции компании остаются очень сильными. Незадолго до решения швейцарских военных Palantir получила новый контракт от военно-морских сил США на сумму 448 млн долларов. Проект связан с оптимизацией поставок и производственных процессов в подводном флоте. Компания продолжает оставаться одним из ключевых подрядчиков Пентагона в области обработки и анализа больших массивов информации.
- Европейские власти заявили о риске кибератак с использованием подключённых автомобилей в качестве оружия. ИБ-организация NIS Cooperation Group (в неё входят представители агентства по сетевой и информационной безопасности Евросоюза (ENISA) и Еврокомиссии) заявила о рисках, связанных с подключёнными автомобилями – злоумышленники могут использовать их в качестве оружия, написал в пятницу Euractive. Кибератаки на системы управления, обработки данных, принятия решения, включая ИИ-системы для обнаружения препятствий, радары или камеры транспортного средства могут повлечь разрушительные последствия. «Враждебные страны» способны заставить автопроизводителей и их поставщиков внедрить вредоносное оборудование или программное обеспечение, позволяющее установить физический контроль над машиной или приспособить её для шпионажа в Европе, опасаются эксперты NIS Cooperation Group.
- Фальшивые AI-ассистенты в Chrome заразили 260 тыс. браузеров через скрытые iframes. Исследователи из платформы безопасности LayerX обнаружили крупномасштабную кампанию вредоносных расширений для Google Chrome, замаскированных под «помощников на базе искусственного интеллекта». Эти расширения, установленные по меньшей мере 260 000 пользователями, внедряют в страницы скрытые iframe-окна, загружающие удалённый интерфейс и позволяющие злоумышленникам контролировать действия в браузере и собирать данные. Расширения выдавали себя за инструменты для чат-ботов, суммаризации текстов, помощи с Gmail и другими задачами – якобы использующие ChatGPT, Claude, Gemini, Grok и другие популярные AI-сервисы. На самом деле их интерфейс был реализован через удалённый iframe, загружавшийся с серверов атакующих, а не через код, проверенный при установке из Chrome Web Store. Такой механизм позволяет злоумышленникам в любое время менять поведение расширения без обновления в магазине и вводить новые функции в обход проверок платформы. Кампания включала по крайней мере 30 различных расширений, все они имели одинаковую архитектуру, права доступа и серверную инфраструктуру, несмотря на разные названия и ID. Некоторые из них даже получали отметку «Recommended» в Chrome Web Store, что увеличивало число установок и доверие пользователей. Технически вредоносные расширения рендерили полноэкранные iframe, загружающие интерфейс с удалённого домена (например, tapnetic.pro), что дало злоумышленникам возможность изменять логику поведения на стороне сервера и собирать контент активных вкладок, включая данные, видимые на экране пользователя. Эксперты предупреждают, что такие кампании демонстрируют серьёзную слабость модели доверия к расширениям, маскирующимся под популярные AI-инструменты. Вредоносный код может незаметно собирать личные данные, текст сообщений, API-ключи и другую чувствительную информацию, которую затем передаёт на серверы атакующих. Рекомендации по защите включают немедленное удаление всех подозрительных AI-расширений, проверку прав доступа у установленных дополнений и использование механизмов мониторинга активности расширений для выявления скрытых iframe и других признаков удалённого управления со стороны внешних серверов.
- «Блокнот» в Windows улучшили так, что через него стало можно захватывать ПК по сети. В «Блокноте» Windows 11, который является частью операционных систем Microsoft с 1985 г., найдена «дыра», при помощи которой можно легко захватить удаленный контроль за ПК. Если бы Microsoft не превратила простейший текстовый редактор в «комбайн» наподобие WordPad, от которого зачем-то избавилась в 2024 г., уязвимость такого рода в нем вряд ли могла бы возникнуть. Уязвимость в «Блокноте» Windows. Текстовый редактор «Блокнот» (Notepad), поставляющийся в составе операционной системы Microsoft Windows 11, имеет опасную уязвимость удаленного выполнения кода (RCE), пишет Bleeping Computer. Обнаруженная брешь позволяет злоумышленнику незаметно запустить на компьютере пользователя любую программу. Единственное, что требуется от жертвы – открыть файл, содержащий текст на языке Markdown, и перейти по особой ссылке, нажав “ctrl” и щелкнув по ней левой кнопкой мыши. Markdown – простой по сравнению с HTML язык разметки для создания форматированного текста. Язык создан в 2004 г. Джоном Грубером (John Gruber). Применяется, в частности, при оформлении текстов в блогах, на интернет-форумах, ПО для совместной работы, для написания справочных материалов в формате readme-файла – такие часто публикуются в репозиториях проектов хостинга GitHub. Как поясняют в Microsoft, уязвимость в «Блокноте» образовалась из-за того, что приложение не блокирует потенциально опасные специальные символы, которые могут встречать в файлах Markdown. «Неправильная нейтрализация специальных элементов, используемых в команде в приложении “Блокнот” Windows, позволяет неавторизованному злоумышленнику выполнить код по сети», – говорится в соответствующем бюллетене по безопасности, выпущенном Microsoft.
- Уволиться из OpenAI, чтобы спасти совесть. Почему лучшие умы ИИ-индустрии увольняются из корпораций в самый разгар технологического бума. Люди, создавшие GPT, больше не хотят иметь к нему отношения. Несколько ведущих специалистов по безопасности ИИ из OpenAI, Anthropic и других компаний публично предупреждают о росте рисков, связанных с развитием больших моделей. По данным Axios, часть исследователей уходит из команд, которые должны были «держать технологию в рамках», а некоторые прямо пишут о моральных и даже экзистенциальных опасениях. На этой неделе сотрудник Anthropic объявил об уходе, объяснив это желанием писать поэзию и осмыслением «места, в котором мы оказались». Почти одновременно исследователь OpenAI покинул компанию, сославшись на этические причины. Другой сотрудник OpenAI, Хиеу Фам, написал, что «наконец почувствовал экзистенциальную угрозу», которую несет ИИ. Инвестор и ведущий подкаста All-In Джейсон Калаканис добавил, что никогда не видел, чтобы так много технарей столь часто и резко выражали обеспокоенность, как сейчас. Отдельный резонанс вызвал пост предпринимателя Мэтта Шумера, который сравнил текущий момент с кануном пандемии и описал сценарии, при которых ИИ быстро и глубоко меняет рынок труда и повседневную жизнь. Axios утверждает, что публикация стала вирусной и набрала 56 млн просмотров за 36 часов, подогрев обсуждение того, насколько общество и регуляторы готовы к скорости изменений. При этом сами компании признают, что риски существуют, даже если внутри индустрии сохраняется уверенность, что технологию удастся направлять без масштабного ущерба. Anthropic недавно выпустила отчет, где оценила, как ИИ может быть использован в тяжких преступлениях, включая помощь в создании химического оружия, а также рассмотрела сценарии «саботажа» в отдельном докладе – когда модель действует автономно, без подсказок человека. Параллельно автор Platformer Кейси Ньютон сообщил, что OpenAI расформировала команду mission alignment, созданную для того, чтобы развитие AGI приносило пользу всему человечеству.
- Китай запретил софт США, а американцы в ответ…смягчили тон. Palo Alto показала, чего стоят слова в отчёте о хакерах. Хакеры из группировки TGR-STA-1030 атаковали государственные системы в 37 странах мира. Компания Palo Alto Networks смягчила формулировки в отчёте о крупной шпионской хакерской кампании и не стала напрямую связывать её с Китаем, хотя изначально такие выводы в документе были. Об этом сообщили источники, знакомые с подготовкой исследования. Решение приняли из опасений, что жёсткая атрибуция может вызвать ответные меры со стороны Пекина и ударить по самой компании и её заказчикам. Речь идёт о масштабной операции, которую подразделение анализа угроз Unit 42 раскрыло на прошлой неделе. В опубликованной версии отчёта группу злоумышленников обозначили как «связанную с государством структуру, действующую из Азии». По словам источников, в рабочем варианте документа прямо указывалась связь с Китаем, но перед выпуском текст переписали. Это произошло вскоре после сообщений о том, что китайские власти запретили использовать программные продукты примерно 15 американских и израильских компаний в сфере информационной безопасности, включая Palo Alto Networks, сославшись на соображения национальной безопасности. Собеседники утверждают, что исследователи Unit 42 были уверены в китайском происхождении кампании и опирались на большой объём технических следов и косвенных признаков. При этом сама компания заявила журналистам, что вопрос указания конкретной страны «не имеет значения». В последующих комментариях представитель по глобальным коммуникациям Николь Хокин подчеркнула, что формулировки отчёта не связаны с китайскими правилами закупок, а предположения об обратном назвала домыслами. По её словам, выбранный язык нужен для того, чтобы точнее предупредить и защитить государственные структуры от угрозы.
- AI-агент опубликовал «разоблачение» на разработчика: скандал вокруг Scott Shambaugh вышел за пределы open source. В сообществе open source разгорелся конфликт после того, как на одного из участников, Scott Shambaugh, был опубликован критический материал, созданный ИИ-агентом. По данным исследователей, речь идет о тексте, который позиционировался как расследование, однако впоследствии выяснилось, что его сгенерировал автономный AI-инструмент. В публикации утверждалось, что Shambaugh якобы системно препятствовал участию других разработчиков, создавал барьеры для новых контрибьюторов и использовал формальные процедуры модерации для ограничения доступа к проектам. Материал подавался в резкой форме и строился как «разоблачение» его роли в формировании закрытой иерархии внутри open source. Сам Shambaugh в своем блоге заявил, что материал содержит искажения и подает события в одностороннем ключе. Он связал публикацию с дискуссией о так называемом gatekeeping в open source – практике жесткого контроля участия и модерации проектов. По его словам, автоматизированная публикация подобного «разоблачения» демонстрирует новую проблему: ИИ может использоваться для масштабирования репутационных атак. Автор ресурса The Sham Blog также подтвердил, что текст был создан AI-агентом, и указал на экспериментальный характер публикации. Ситуация вызвала дискуссию в сообществе о границах применения ИИ в медиа, ответственности за сгенерированный контент и рисках автоматизации информационных атак. Инцидент стал еще одним примером того, как инструменты ИИ выходят за рамки помощи разработчикам и начинают влиять на репутационные и профессиональные процессы внутри технологических сообществ.
Исследования.
- Опрос показал низкую зрелость обеспечения ИБ в крупных российских компаниях. Эксперты Aktiv.Consulting компании «Актив» представили аналитический отчёт «Оценка уровня зрелости информационной безопасности (ИБ)», составленный на основе опроса 52 специалистов в компаниях, имеющих у себя в штате выделенную функцию ИБ. Результаты отчёта были представлены на пресс-конференции на прошлой неделе. В опросе принимали участие как небольшие (больше половины опрошенных), так и крупные компании, представляющие промышленность, финансовую, IT и ИБ отрасли, здравоохранение, строительную индустрию и другие направления. Сам опросник специалистов содержал 100 сценариев по пяти направлениям ИБ. Лучшие результаты компании продемонстрировали в категории «ИБ-гигиена», т.е. профилактики инцидентов – 40-49% от максимально возможной оценки. Хуже всего дела обстоят в области обеспечения ИБ, особенно в крупных компаниях (24% от максимума).
- Почему важно выбирать отечественное решение для управления парком корпоративных устройств. Об авторе: Анатолий Петров, директор по продукту «Аврора Центр». Один из фундаментальных элементов построения современной безопасной IT-инфраструктуры — это платформы управления корпоративными устройствами: MDM-решения (Mobile Device Management, управляющие мобильными устройствами) и UEM-решения (Unified Endpoint Management, более широкое понятие, предполагающие контроль над любыми пользовательскими устройствами, в том числе стационарными, IOT и др.). Такие решения закрывают два ключевых риска: возможность утечки корпоративных данных и остановки критичных бизнес-процессов при сбое в работе устройств. Политики и настройки, назначаемые на устройства централизованно, позволяют значительно снижать эти риски, а также своевременно проводить обновления ПО, обеспечивать надлежащую поддержку. В случае, если устройство всё же выходит из строя (на программном уровне), UEM помогает максимально оперативно восстановить его работоспособность, тем самым сводя к минимуму остановку бизнес-процессов. Среди главных задач платформ управления: первичная настройка оборудования, регулярные обновления (ПО, ОС, политики безопасности), мониторинг соответствия устройств требуемому состоянию, регулярный ввод новых партий устройств и вывод из эксплуатации старых, а также техническая поддержка. Платформы управления особенно востребованы там, где каждое корпоративное устройство – это звено в цепочке создания ценности. Когда таких устройств сотни или тысячи, ручное управление ими становится фактически невозможным. Это особенно актуально в таких сегментах, как ретейл, логистика, промышленность, банки, государственные учреждения.
- Эксперт Кирилл Добрынин рассказал, как снизить расходы на ИИ-инфраструктуру. Рост корпоративных ИИ-сервисов приводит к увеличению операционных расходов на сопровождение инфраструктуры, зачастую превышающих первоначальные инвестиции в технологии, в итоге компаниям сложно выйти в положительный баланс от внедрения ИИ. Кирилл Добрынин рассказал, как снизить расходы на формирование ИИ-инфраструктуры. По словам директора департамента автоматизации «Группы Астра» Кирилла Добрынина, основной источник затрат — не сами модели, а их эксплуатация. «Основные затраты связаны с управлением вычислительными ресурсами, обновлениями зависимостей, контролем конфигураций и реакциями на инциденты», – говорит Кирилл Добрынин. При отсутствии централизованной автоматизации компании вынуждены резервировать избыточные мощности и привлекать высококвалифицированных инженеров для рутинных операций, что увеличивает OPEX и снижает предсказуемость расходов. По мнению эксперта, переход к платформенной автоматизации позволяет перевести управление ИИ-инфраструктурой в системный режим: стандартизировать масштабирование, централизовать контроль конфигураций и сократить влияние человеческого фактора. «Внедрение решений автоматизации до 30% снижает трудозатраты на администрирование и до 75% сокращает простои в работе и недоступность систем. В российских компаниях уже активно решают такие задачи с помощью промышленных платформ автоматизации, что позволяет оптимизировать использование ресурсов и высвободить инженерные компетенции для стратегических задач. В результате автоматизация становится не технологической инициативой, а инструментом управления затратами и устойчивостью бизнеса. Важно отметить, что средства затраченные на автоматизацию за недлительный срок покрывают расходы на формирование и сопровождение ИИ-инфраструктуры и начинают работать в плюс», — заключил Кирилл Добрынин, Product Director Astra Automation.
- Как обезвредить врага без стрельбы? Выжечь глаза и датчики: новые ИИ-платформы бьют лазером точно в уязвимые места. Больше никаких пуль и гильз — только беззвучный луч и запах горелой электроники. Индийская компания Olee.space подготовила к развертыванию компактный боевой лазер мощностью 2 кВт с интеллектуальным управлением, установленный на беспилотную наземную платформу. Разработку уже проверили в полевых условиях вместе с профильными ведомствами, после испытаний систему допустили к практическому применению и коммерческим поставкам. Речь идет о классе directed energy weapon — оружии направленной энергии, где воздействие достигается сфокусированным лучом, а не боеприпасом. Лазерный модуль рассчитан на ближние операции по обезвреживанию врага и охрану периметра. Установка может за секунды ослеплять цель, повреждать оборудование или полностью выводить объект из строя. В перечень входят люди, техника и отдельные элементы инфраструктуры. Такие атаки относят к некинетическим — физического попадания снаряда нет. Если действовать корректно и точечно, это позволяет быстрее реагировать на угрозу и снижать побочные повреждения. В качестве носителя используется компактный UGV – беспилотный наземный аппарат размером около 1,5 на 0,9 метра и массой менее 250 килограммов. Машина работает на дизельном двигателе, за счет чего ее проще заправлять в полевых условиях и дольше держать в работе без стационарной базы. Полного бака хватает более чем на 130 километров хода, при увеличенном запасе топлива дистанция растет. Конструкцию изначально готовили под сложный рельеф — пустыни, лес, приграничные районы и плотную городскую застройку, где тяжелая бронетехника менее маневренна.
Инновации.
- Точность 12 микрометров и скорость 0,6 секунды. Представлена технология 3D-печати, которая работает в 1000 раз быстрее обычной. Исследователи показали технологию, способную изменить подход к созданию деталей. Представьте, что вы бросаете в прозрачную ванночку жидкий полимер, включаете свет, и через полсекунды у вас уже готова сложная трехмерная деталь. Не «почти готова», не «первый слой пошел», а уже целиком, со всеми изгибами и внутренними полостями. Именно такой трюк показала команда исследователей из Tsinghua University: они научились печатать микроскопически детализированные объекты не часами, а за доли секунды. Проблема у 3D печати давняя и раздражающая. Хочешь быстро, теряешь точность. Хочешь точно, миришься с тем, что принтер полдня «вышивает» изделие по слоям. В новой работе авторы предлагают способ почти вывернуть этот компромисс наизнанку: вместо того чтобы строить предмет точка за точкой или слой за слоем, они формируют весь объем сразу с помощью специального набора световых проекций, рассчитанных как голограммы. Метод назвали DISH, это сокращение от «цифрового некогерентного синтеза голографических световых полей». Суть в том, что система «скульптирует» светом нужную форму прямо внутри контейнера со смолой: много проекций под разными углами суммируются так, чтобы в нужных местах материал за короткую экспозицию затвердел, а вокруг остался жидким. Для этого вместо вращения всей емкости придумали вращающийся перископ, который быстро меняет направление проецирования, а рисунок света формирует цифровая микрозеркальная матрица (DMD), способная обновлять картинку с очень высокой частотой. По данным статьи в Nature, установка сохраняет печатное разрешение около 19 микрометров на глубине до 1 сантиметра и может «вылепить» миллиметровый объект примерно за 0,6 секунды. Самые тонкие элементы в демонстрациях доходят до 12 микрометров, это примерно пятая часть толщины человеческого волоса. Почему это важно не только для вау-эффекта. Объемная печать особенно интересна там, где нужны либо очень мелкие детали, либо большая серия, либо и то и другое сразу: миниатюрные оптические компоненты, микромеханика, элементы для фотонных устройств, а также модели биотканей, когда критичны форма и микрорельеф. Авторы отдельно показывают совместимость с акрилатными материалами разной вязкости и описывают режим «поточного» изготовления в канале с жидким материалом, то есть не просто единичные образцы, а задел на тиражирование.
Обзор по ИБ подготовил Дмитрий Рожков.
