В настоящее время широкое распространение получают генеративные изобразительные нейросети, которые позволяют копировать стили художников, превращать эскизы в фотореалистичные иллюстрации, «оживлять» портреты и даже синтезировать новые цифровые изображения. Так, генеративно-состязательные нейросети (GAN) синтезируют картины с использованием стиля других изображений, а языковые модели типа OpenAI GPT-3 и GPT-4 позволяют генерировать изображения по тексту. По мере развития генеративных изобразительных нейросетей у них возникают новые все более эмержентные (Emergent) системные свойства: управляемость, киберустойчивость, кибербезопасность, самоорганизация и адаптивность. Здесь каждое из перечисленных свойств является предметом исследования кибернетики, а каждое последующее свойство имеет смысл лишь при наличии предыдущего. Обеспечение киберустойчивости генеративных изобразительных нейросетей является одной из актуальных задач информационной безопасности. В статье представлены результаты системного анализа этой научной проблемы в условиях роста угроз безопасности, а также намечены возможные пути ее разрешения.
< ... >
Currently, generative visual neural networks are widely used. Thus, generative adversarial neural networks (GAN) synthesize pictures using the style of other images, and language models like OpenAI GPT-3 and GPT-4 allow generating images from text. With the development of generative visual neural networks they have new and increasingly emergent system properties: controllability, cyber stability, cybersecurity, self-organization and adaptability. Ensuring the cyber stability of generative representational neural networks is one of the urgent tasks of information security. The article presents the results of a systematic analysis of this problem in the face of growing security threats, as well as outlines possible ways to resolve it.
Keywords:
artificial intelligence, cyber resilience, security, generative neural networks, works of digital art
Полную версию статьи смотрите на страницах журнала «Защита информации. Инсайд»
