Аналіз вимог і оцінювання пояснюваного штучного інтелекту як сервісу за допомогою моделі якості

О.Ю. Веприцька, В.С. Харченко, д-р техн. наук
Національний аерокосмічний університет ім. М.Є. Жуковського
«Харківський авіаційний інститут»
Україна, 61070, Харків, вул. Чкалова, 17
тел. +38 (066) 3013666, е-mail: o.veprytska@student.csn.khai.edu;
тел. +38 (067) 9151989, е-mail: v.kharchenko@csn.khai.edu

Èlektron. model. 2022, 44(5):36-50

https://doi.org/10.15407/emodel.44.05.036

АНОТАЦІЯ

Досліджено існуючі сервіси штучного інтелекту (ШІ), що надаються хмарними провай­дерами (Artificial Intelligence as a Service (AIaaS)), та їх пояснюваність. Визначено характеристики і забезпечення об’єктивного оцінювання пояснюваного ШІ як сервісу (eXplainable AI as a Service (XAIaaS)). Проаналізовано AIaaS рішення, надані хмарними про­вайдерами Amazon Web Services, Google Cloud Platform та Microsoft Azure. Сформовано не­функційні вимоги до ХAIaaS оцінювання таких систем. Розроблено модель і надано приклад оцінювання якості системи ШІ для виявлення зброї за зображенням та надано приклад її метричної оцінки. Напрями подальших досліджень: параметризація поясню­ваності та її підхарактеристик для сервісів, розроблення алгоритмів визначення метрик для оцінювання якості систем ШІ та XAIaaS, розроблення засобів забезпечення пояс­нюваності.

КЛЮЧОВІ СЛОВА:

пояснюваний штучний інтелект, штучний інтелект як сервіс, вимоги до штучного інтелекту, модель якості, метрики.

СПИСОК ЛІТЕРАТУРИ

  1. Elger P.P. AI As a Service: Serverless Machine Learning with AWS / P. Elger, E. Shanaghy. Manning Publications Company, 2020, 325 p. Режим доступу: https://www.manning.com/ books/ai-as-a-service
  2. Top 10 artificial intelligence problems you should know. CloudMoyo. Enabling digital transformation with Cloud and AI. [Електронний ресурс] Режим доступу: https://www. com/blog/ai-ml-automation/top-10-potential-ai-artificial-intelligence-problems/ (дата звернення: 03.08.2022).
  3. Artificial Intelligence and Life in 2030 // Analysis & Policy Observatory. APO. [Електронний ресурс] Режим доступу: https://apo.org.au/sites/default/files/resource-files/2016-09/apo-nidpdf (дата звернення: 04.08.2022).
  4. What Is AIaaS? AI as a Service Explained // BMC Blogs. [Електронний ресурс] Режим доступу: https://www.bmc.com/blogs/ai-as-a-service-aiaas/?print=pdf#Benefits-drawbacks (дата звернення: 04.08.2022).
  5. O'Brien S. Anything as a Service (XaaS). // RingCentral UK Blog. [Електронний ресурс] Режим доступу: https://www.ringcentral.com/gb/en/blog/definitions/anything-as-a-service-xaas/ (дата звернення: 08.08.2022).
  6. Lins S. et al. Artificial Intelligence as a Service // Business & Information Systems Engineering, 2021, Vol. 63, № 4, pp. 441―456. [Електронний ресурс] Режим доступу: https://doi.org/10.1007/s12599-021-00708-w (дата звернення: 03.08.2022).
  7. Adadi A. Peeking Inside the Black-Box: A Survey on Explainable Artificial Intelligence (XAI) / A. Adadi, M. Berrada // IEEE Access, 2018, Vol. 6, pp. 52138―52160. [Електрон­ний ресурс] Режим доступу: https://doi.org/10.1109/access.2018.2870052 (дата звернення: 04.08.2022).
  8. Kharchenko V. Базова модель нефункційних характеристик для оцінки якості штучного інтелекту / V. Kharchenko, H. Fesenko, O. Illiashenko // Radioelektronic and Computer Systems, 2022, № 2, pp. 131–144. [Електронний ресурс] Режим доступу: https://doi.org/ 32620/reks.2022.2.11 (дата звернення: 06.08.2022).
  9. Artificial Intelligence Services // Amazon Web Services, Inc. [Електронний ресурс] Режим доступу: https://aws.amazon.com/machine-learning/ai-services/ (дата звернення: 03.08.2022).
  10. Directory of Azure Cloud Services, Microsoft Azure // Cloud Computing Services. [Електронний ресурс] Режим доступу: https://azure.microsoft.com/en-us/services/ (дата звернення: 03.08.2022).
  11. Products and Services // Google Cloud. [Електронний ресурс] Режим доступу: https://cloud.google.com/products#section-3 (дата звернення: 03.08.2022).
  12. ISO 25010 // PORTAL ISO [Електронний ресурс] Режим доступу: https:// iso25000.com/index.php/en/iso-25000-standards/iso-25010 (дата звернення: 04.08.2022).
  13. Kharchenko V. Quality Models for Artificial Intelligence Systems: Characteristic-Based Approach, Development and Application / V. Kharchenko, H. Fesenko, O. Illiashenko // Sensors, 2022, Vol. 22, № 13, pp. 48—65. [Електронний ресурс] Режим доступу: https://doi.org/10.3390/s22134865 (дата звернення: 04.08.2022).
  14. Overview of Everything as a Service (XaaS) // GeeksforGeeks. [Електронний ресурс] Режим доступу: https://www.geeksforgeeks.org/overview-of-everything-as-a-service-xaas/ (дата звернення: 04.08.2022).
  15. Saeed W. Explainable AI (XAI): A Systematic Meta-Survey of Current Challenges and Future Opportunities / W. Saeed, C. Omlin // arXiv.org e-Print archive. [Електронний ре­сурс] Режим доступу: https://arxiv.org/pdf/2111.06420.pdf (дата звернення: 04.08.2022).
  16. Than A. Interpretable AI: Building explainable machine learning systems. Manning, 2022, 328 р. Режим доступу: https://www.manning.com/books/interpretable-ai
  17. AI Gun Detection Technology ZeroEyes. URL: https://zeroeyes.com/ (дата звернення: 11.08.2022)
  18. Ahmed S. et al Development and Optimization of Deep Learning Models for Weapon Detection in Surveillance Videos // Applied Sciences, 2022, Vol. 12, № 12, pp. 57—72. URL: https://doi.org/10.3390/app12125772 (дата звернення: 11.08.2022).
  19. Google apologizes after its Vision AI produced racist results ─ AlgorithmWatch // AlgorithmWatch. [Електронний ресурс] Режим доступу: https://algorithmwatch.org/en/google-vision-racism/ (дата звернення: 04.08.2022).
  20. Васильєв І.О. Фреймворк для метричного оцінювання систем штучного інтелекту на основі моделі якості / І.О. Васильєв, В.С. Харченко // Системи управління, навігації та зв’язку, 2022, 2, № 68, c. 41—45. Режим доступу: https://doi.org/10.26906/SUNZ.2022.2.041 (дата звернення: 10.08.2022).

ВЕПРИЦЬКА Олена Юріївна, магістрант кафедри комп’ютерних систем, мереж і кібербезпеки Національного аерокосмічного університету ім. М.Є. Жуковського «Хар­ківський авіаційний інститут». Займає позицію NodeJS Backend Developer у компанії Grid Dynamics. Сфера наукових досліджень — штучний інтелект як сервіс, методи і засоби оцінювання пояснюваності і довірчоздатності систем AI as a Service.

ХАРЧЕНКО Вячеслав Сергійович, д-р. техн. наук, професор, завідувач кафедри комп’ю­терних систем, мереж і кібербезпеки Національного аерокосмічного університету ім. М.Є. Жуковського «Харківський авіаційний інститут». Заслужений винахідник України, Лауреат Державної премії України у галузі науки і техніки. У 1974 р. закінчив Харківське вище військове командно-інженерне училище ракетних військ. Сфера науко­вих досліджень — теорія, методи і технології критичного комп’ютингу та гаранто­здатних систем, функційна та кібербезпека інформаційно-керуючих систем та інфра­структур, надійність і живучість безпілотних системи моніторингу, якість систем штучного інтелекту.

Повний текст: PDF