НАДЕЖНОСТЬ

Несмотря на то, что современные технологии искусственного интеллекта в значительной степени основаны на машинном обучении, сами по себе алгоритмы машинного обучения стратегией не являются. Стратегией мы будем называть полное описание того, как система будет себя вести при всех возможных обстоятельствах. Наиболее перспективным инструментом, позволяющим автономным системам принимать эффективные решения при управлении корпорациями, представляется теория игр. Учитывая разнообразие проблем, с которыми приходится сталкиваться советам директоров, теория игр, нашедшая свое применение в экономике, политологии, чистой математике, психологии, социологии, маркетинге и финансах, предоставляет возможность обеспечивать автономность системы искусственного интеллекта на основе моделирования эффективной стратегии. Обязательное требование о разработке этичных и легитимных автономных систем искусственного интеллекта может привести к тому, что некоторые дилеммы самой теории игр для автономных систем или не существуют, или изменяют свой смысл.

Цель. На безопасность интеллектуальных транспортных систем (ИТС) существенное влияние оказывают угрозы нефизической природы. Они могут осуществляться незаконным вмешательством в разработку и реализацию ИТС. Создание доверенной среды разработки и реализации ИТС рассмотрено на примере интеллектуальных систем водного транспорта (ИСВТ).

Проблемы. Указом Президента Российской Федерации ИТС, телекоммуникации и безопасность обработки информации включены в число приоритетных направлений научно-технологического развития. Технологии ИТС и технологии создания доверенного и защищенного системного и прикладного программного обеспечения отнесены к важнейшим наукоемким технологиям критического уровня. Функционирование ИТС связано с масштабным использованием компьютеризированных систем, реализующих новейшие информационные и телекоммуникационные технологии, технологии автоматизированного и автоматического управления, искусственного интеллекта, которые могут нести угрозы безопасности. Создание и функционирование ИТС должны осуществляться в условиях обеспечения доверенной среды их разработки и реализации.

Методы. В работе были использованы методология обеспечения безопасности ИСВТ, разработки безопасных аппаратно-программных платформ автоматизированных систем в защищенном исполнении, методы системного анализа, теории надежности, защиты информации, права.

Результаты. Сформулирована проблема создания доверенной среды разработки и реализации ИСВТ, разработана применимая к ней терминология. Исследовано влияние ИСВТ на безопасность критической информационной инфраструктуры (КИИ) и национальную безопасность, разработана модель отношений областей безопасности ИСВТ, учитывающая угрозы физического и нефизического происхождения. Приведены примеры компьютерных инцидентов в ИСВТ, повлекших последствия национального и межнационального уровня. Определен состав объектов ИСВТ, относимых к КИИ, приведены критические процессы, осуществляемые типовыми объектами КИИ в составе ИСВТ. Сформирован перечень концептуальных проблем обеспечения безопасности ИСВТ и сформулированы принципы создания доверенной среды разработки и реализации ИСВТ. З

аключение. Обеспечение безопасности ИСВТ в условиях современных угроз требует решения проблем создания доверенной среды разработки и реализации ИСВТ. Для повышения оперативности и качества их решения предложена интуитивно понятная терминология, отражающая предметную область и позволяющая повысить уровень взаимопонимания проблем безопасности специалистов из различных сфер деятельности. Объекты ИСВТ оказывают влияние на безопасность КИИ и национальную безопасность в целом. Это учтено в модели отношений областей безопасности ИСВТ, показано на примерах компьютерных инцидентов в ИСВТ, повлекших последствия национального и межнационального уровня. С учетом вышеизложенного сформирован состав объектов ИСВТ, относимых к КИИ, и приведены примеры критических процессов, осуществляемых типовыми объектами КИИ в составе ИСВТ. Расширение ландшафта угроз безопасности ИСВТ небезопасными программным обеспечением, аппаратно-программными платформами, программно-аппаратными комплексами и новейшими технологиями учитывает сформированный перечень концептуальных проблем обеспечения безопасности ИСВТ При разработке принципов создания доверенной среды разработки и реализации ИСВТ учтен опыт успешного внедрения методологии создания национальных защищенных аппаратно-программных платформам объектов КИИ, обеспечившей создание автоматизированных систем в защищенном исполнении различного назначения на основе отечественных решений. Рассмотренные проблемы носят системный характер, что позволяет использовать полученные результаты при разработке и реализации ИТС других видов транспорта.

Цель – конкретизировать понятия «искусственный интеллект» и «сложная проблема», а также рассмотреть современное состояние работ в области применения искусственного интеллекта к решению сложных проблем.

Методы. Использованы методы контекстного поиска, системного анализа и обобщения информации.

Результаты. Сформулировано ключевое препятствие применения искусственного интеллекта к решению сложных проблем, заключающееся в отсутствии концептуального и технического решения по представлению междисциплинарных знаний в форме, доступной для обработки и синтеза методами искусственного интеллекта. Обучение ЭВМ на разных массивах данных, но без понимания процесса синтеза, с которым так легко справляется мозг человека, не позволяет искусственному интеллекту претендовать на открытие чего-то нового, принципиально неизвестного, без чего невозможно решение сложных проблем. Нужен универсальный язык, имитирующий процессы человеческого мышления.

Заключение. Выполненный анализ и рекомендации позволяют взглянуть на задачу применения искусственного интеллекта к решению сложных проблем с отличной от принятой в настоящее время точки зрения, опирающейся на использование быстрых алгоритмов поиска (так называемые большие языковые модели). Создание языка-транслятора между различными областями знаний должно способствовать междисциплинарному обмену, развитию творческого мышления, появлению новых идей и генерации инновационных решений в самых разных областях деятельности человека. Развитый язык позволит решать сложные задачи, объединяя различные дисциплины.

Постановка задачи. Многие системы искусственного интеллекта по существу являются системами классификации событий. Они широко используются в предиктивной аналитике. Их роль непрерывно растет при прогнозировании опасных событий на транспорте. Эффективность применения методов искусственного интеллекта в значительной мере зависит от результатов неправильной классификации. Поэтому актуальна задача вычисления или оценки в статистическом смысле вероятности неправильной классификации и определения ее граничных значений. Цель. Оценить границы для комбинированной вероятности неправильной классификации из-за двух различных категорий ошибок: собственно ошибок неправильной классификации и статистических ошибок, возникающих вследствие неправильной классификации. Результаты. Выполнена статистическая оценка порогового значения, которое используется для классификации. Установлены граничные условия для комбинированной вероятности неправильной классификации. Представлено обобщение на N-мерные пространства и на произвольные распределения и формы пороговых поверхностей. Теоретические результаты проиллюстрированы примером практического применения.

В статье предлагается метод формирования выделенного операционного кон- текста при разработке и внедрении автономных систем управления корпорациями на примере автономных систем для совета директоров. Значительную часть операционного контекста для автономных систем управления компаниями составляет регуляторная и правовая среда, в рамках которой корпорации осуществляют свою деятельность. С целью создания специального операционного контекста для автономных систем искусственного интеллекта формулировки локальных нормативных документов могут быть одновременно представлены в двух вариантах: для использования людьми и для использования автономными системами. В таком случае система искусственного интеллекта получает четко очерченный операционный контекст, который позволяет такой системе выполнять функции в рамках необходимых эксплуатационных качеств. Локальные нормативные акты, которые предусматривают специфику совместной работы физических лиц и автономных систем искусственного интеллекта, могут стать базой для формирования основ соответствующего законодательства, регулирующего разработку и внедрение ав- тономных систем.