Аналіз вимог і оцінювання пояснюваного штучного інтелекту як сервісу за допомогою моделі якості
О.Ю. Веприцька, В.С. Харченко, д-р техн. наук
Національний аерокосмічний університет ім. М.Є. Жуковського
«Харківський авіаційний інститут»
Україна, 61070, Харків, вул. Чкалова, 17
тел. +38 (066) 3013666, е-mail: o.veprytska@student.csn.khai.edu;
тел. +38 (067) 9151989, е-mail: v.kharchenko@csn.khai.edu
Èlektron. model. 2022, 44(5):36-50
https://doi.org/10.15407/emodel.44.05.036
Анотація
Досліджено існуючі сервіси штучного інтелекту (ШІ), що надаються хмарними провайдерами (Artificial Intelligence as a Service (AIaaS)), та їх пояснюваність. Визначено характеристики і забезпечення об’єктивного оцінювання пояснюваного ШІ як сервісу (eXplainable AI as a Service (XAIaaS)). Проаналізовано AIaaS рішення, надані хмарними провайдерами Amazon Web Services, Google Cloud Platform та Microsoft Azure. Сформовано нефункційні вимоги до ХAIaaS оцінювання таких систем. Розроблено модель і надано приклад оцінювання якості системи ШІ для виявлення зброї за зображенням та надано приклад її метричної оцінки. Напрями подальших досліджень: параметризація пояснюваності та її підхарактеристик для сервісів, розроблення алгоритмів визначення метрик для оцінювання якості систем ШІ та XAIaaS, розроблення засобів забезпечення пояснюваності.
Ключові слова
пояснюваний штучний інтелект, штучний інтелект як сервіс, вимоги до штучного інтелекту, модель якості, метрики
Список літератури
- Elger P.P. AI As a Service: Serverless Machine Learning with AWS / P. Elger, E. Shanaghy. Manning Publications Company, 2020, 325 p. Режим доступу: https://www.manning.com/ books/ai-as-a-service
- Top 10 artificial intelligence problems you should know. CloudMoyo. Enabling digital transformation with Cloud and AI. [Електронний ресурс] Режим доступу: https://www. com/blog/ai-ml-automation/top-10-potential-ai-artificial-intelligence-problems/ (дата звернення: 03.08.2022).
- Artificial Intelligence and Life in 2030 // Analysis & Policy Observatory. APO. [Електронний ресурс] Режим доступу: https://apo.org.au/sites/default/files/resource-files/2016-09/apo-nidpdf (дата звернення: 04.08.2022).
- What Is AIaaS? AI as a Service Explained // BMC Blogs. [Електронний ресурс] Режим доступу: https://www.bmc.com/blogs/ai-as-a-service-aiaas/?print=pdf#Benefits-drawbacks (дата звернення: 04.08.2022).
- O'Brien S. Anything as a Service (XaaS). // RingCentral UK Blog. [Електронний ресурс] Режим доступу: https://www.ringcentral.com/gb/en/blog/definitions/anything-as-a-service-xaas/ (дата звернення: 08.08.2022).
- Lins S. et al. Artificial Intelligence as a Service // Business & Information Systems Engineering, 2021, Vol. 63, № 4, pp. 441―456. [Електронний ресурс] Режим доступу: https://doi.org/10.1007/s12599-021-00708-w (дата звернення: 03.08.2022).
- Adadi A. Peeking Inside the Black-Box: A Survey on Explainable Artificial Intelligence (XAI) / A. Adadi, M. Berrada // IEEE Access, 2018, Vol. 6, pp. 52138―52160. [Електронний ресурс] Режим доступу: https://doi.org/10.1109/access.2018.2870052 (дата звернення: 04.08.2022).
- Kharchenko V. Базова модель нефункційних характеристик для оцінки якості штучного інтелекту / V. Kharchenko, H. Fesenko, O. Illiashenko // Radioelektronic and Computer Systems, 2022, № 2, pp. 131–144. [Електронний ресурс] Режим доступу: https://doi.org/ 32620/reks.2022.2.11 (дата звернення: 06.08.2022).
- Artificial Intelligence Services // Amazon Web Services, Inc. [Електронний ресурс] Режим доступу: https://aws.amazon.com/machine-learning/ai-services/ (дата звернення: 03.08.2022).
- Directory of Azure Cloud Services, Microsoft Azure // Cloud Computing Services. [Електронний ресурс] Режим доступу: https://azure.microsoft.com/en-us/services/ (дата звернення: 03.08.2022).
- Products and Services // Google Cloud. [Електронний ресурс] Режим доступу: https://cloud.google.com/products#section-3 (дата звернення: 03.08.2022).
- ISO 25010 // PORTAL ISO [Електронний ресурс] Режим доступу: https:// iso25000.com/index.php/en/iso-25000-standards/iso-25010 (дата звернення: 04.08.2022).
- Kharchenko V. Quality Models for Artificial Intelligence Systems: Characteristic-Based Approach, Development and Application / V. Kharchenko, H. Fesenko, O. Illiashenko // Sensors, 2022, Vol. 22, № 13, pp. 48—65. [Електронний ресурс] Режим доступу: https://doi.org/10.3390/s22134865 (дата звернення: 04.08.2022).
- Overview of Everything as a Service (XaaS) // GeeksforGeeks. [Електронний ресурс] Режим доступу: https://www.geeksforgeeks.org/overview-of-everything-as-a-service-xaas/ (дата звернення: 04.08.2022).
- Saeed W. Explainable AI (XAI): A Systematic Meta-Survey of Current Challenges and Future Opportunities / W. Saeed, C. Omlin // arXiv.org e-Print archive. [Електронний ресурс] Режим доступу: https://arxiv.org/pdf/2111.06420.pdf (дата звернення: 04.08.2022).
- Than A. Interpretable AI: Building explainable machine learning systems. Manning, 2022, 328 р. Режим доступу: https://www.manning.com/books/interpretable-ai
- AI Gun Detection Technology ZeroEyes. URL: https://zeroeyes.com/ (дата звернення: 11.08.2022)
- Ahmed S. et al Development and Optimization of Deep Learning Models for Weapon Detection in Surveillance Videos // Applied Sciences, 2022, Vol. 12, № 12, pp. 57—72. URL: https://doi.org/10.3390/app12125772 (дата звернення: 11.08.2022).
- Google apologizes after its Vision AI produced racist results ─ AlgorithmWatch // AlgorithmWatch. [Електронний ресурс] Режим доступу: https://algorithmwatch.org/en/google-vision-racism/ (дата звернення: 04.08.2022).
- Васильєв І.О. Фреймворк для метричного оцінювання систем штучного інтелекту на основі моделі якості / І.О. Васильєв, В.С. Харченко // Системи управління, навігації та зв’язку, 2022, 2, № 68, c. 41—45. Режим доступу: https://doi.org/10.26906/SUNZ.2022.2.041 (дата звернення: 10.08.2022).
ВЕПРИЦЬКА Олена Юріївна, магістрант кафедри комп’ютерних систем, мереж і кібербезпеки Національного аерокосмічного університету ім. М.Є. Жуковського «Харківський авіаційний інститут». Займає позицію NodeJS Backend Developer у компанії Grid Dynamics. Сфера наукових досліджень — штучний інтелект як сервіс, методи і засоби оцінювання пояснюваності і довірчоздатності систем AI as a Service.
ХАРЧЕНКО Вячеслав Сергійович, д-р. техн. наук, професор, завідувач кафедри комп’ютерних систем, мереж і кібербезпеки Національного аерокосмічного університету ім. М.Є. Жуковського «Харківський авіаційний інститут». Заслужений винахідник України, Лауреат Державної премії України у галузі науки і техніки. У 1974 р. закінчив Харківське вище військове командно-інженерне училище ракетних військ. Сфера наукових досліджень — теорія, методи і технології критичного комп’ютингу та гарантоздатних систем, функційна та кібербезпека інформаційно-керуючих систем та інфраструктур, надійність і живучість безпілотних системи моніторингу, якість систем штучного інтелекту.