On the Issue of Trustworthy Functioning of Artifi cial Intelligence Systems and the Role of Data

The article is devoted to the study of the problems of trusted functioning of artifi cial intelligence systems. Methods: analysis, system method, idealization, legal modeling, hypothesis building, generalization and system analysis. Results. The active development of artifi cial intelligence is redirecting key technological approaches from digital transformation to AI transformation. In these conditions, taking into account the potential risks of use, the issue of trusted operation of artifi cial intelligence systems becomes relevant, as it is a crucial condition that determines the possibility of using these systems for data processing tasks. The article explores the risks and security issues associated with the operation of AI systems. It analyzes the key structural elements that form the system of trust in AI systems, the methods of ensuring trust, and the characteristics of AI systems. The article also examines the role of data in the operation of AI systems. The article highlights and structures the areas of implementation of trusted AI technologies, and discusses the search for practical solutions to improve the secure and trusted operation of AI systems.

1. Архипов В. В., Наумов В. Б., Старостенко В. А., Нестеров А. А. Использование искусственного интеллекта в высшем образовании: опыт СПбГУ // Труды по интеллектуальной собственности (Works on Intellectual Property). — 2025. — Т. 52. — № 1.

2. Батурин Ю. М., Полубинская С. В. Искусственный интеллект: правовой статус или правовой режим? // Государство и право. — 2022. — № 10. — С. 141—154.

3. Василевская Л. Ю. Кодекс этики для искусственного интеллекта: юридический миф и реальность // Гражданское право. — 2023. — № 2. — С. 19—22.

4. Карцхия А. А. Правовая охрана достижений искусственного интеллекта // ИС. Авторское право и смежные права. — 2024. — № 4. — С. 4—16.

5. Наумов В. Б. Право и «Батлерианский джихад»: размышления об угрозах использования искусственного интеллекта // Информационное общество. — 2025. — № 2. — С. 131—144.

6. Наумов В. Б., Тытюк Е. В. Правовые проблемы машинного обучения // Образование и право. — 2020. — № 6.

7. Химченко А. И. Актуальные информационно-правовые вопросы формирования цифровой среды доверия // Правовое государство: теория и практика. — 2023. — № 4. — С. 78—86.

8. Polyakova T. A., Naumov V. B., Minbaleev A. V. Trust in the law during the digital transformation // Государство и право. — 2022. — № 11.