Індустрії охорони здоров’я та фінансових послуг очікують значні трансформації після оголошення 25 липня нових регуляторних рамок для застосування штучного інтелекту в цих сферах.
Правила, розроблені у співпраці між федеральними агентствами та представниками галузі, встановлюють чіткі орієнтири для ШІ-систем, які приймають або впливають на рішення щодо догляду за пацієнтами, страхового покриття, фінансових послуг і управління інвестиціями. Ці заходи є відповіддю на зростаючі занепокоєння щодо безпеки ШІ, алгоритмічної упередженості та потенційного впливу на зайнятість і конфіденційність.
У сфері охорони здоров’я нові правила зобов’язують постачальників послуг та страхові компанії впроваджувати надійні механізми нагляду за системами ШІ, що використовуються для діагностики та рекомендацій щодо лікування. Організації повинні гарантувати, що інструменти ШІ не призводять до дискримінації пацієнтів, особливо у питаннях діагностики, прийняття рішень про лікування та розподілу ресурсів. Також регуляції вимагають обов’язкового клінічного перегляду рішень, прийнятих на основі ШІ у сфері управління використанням медичних послуг, щоб запобігти необґрунтованим відмовам у необхідній допомозі через автоматизовані системи.
Для фінансового сектору рамки встановлюють стандарти для ШІ-систем, що використовуються у кредитних рішеннях, виявленні шахрайства та управлінні інвестиціями. Фінансові установи повинні довести, що їхні ШІ-моделі є зрозумілими, прозорими та вільними від дискримінаційної упередженості. Регуляції також враховують питання конфіденційності даних і встановлюють вимоги до управління ризиками при використанні ШІ для управління портфелями, торгівлі та клієнтських сервісів.
Такий регуляторний підхід відображає прагнення нинішньої адміністрації сприяти лідерству США у сфері ШІ, водночас впроваджуючи цільові запобіжники у критичних галузях. Президент Трамп, який нещодавно підписав укази для прискорення розвитку ШІ, наголосив на необхідності «дозволити цій дитині рости і процвітати», забезпечуючи водночас належний захист у чутливих сферах.
Реакція галузі виявилася неоднозначною: деякі організації вітають чіткість нових рамок, тоді як інші висловлюють занепокоєння щодо потенційного навантаження на дотримання вимог. Лідери сфери охорони здоров’я та фінансових послуг тепер стикаються з викликом впровадження цих вимог, продовжуючи використовувати переваги ШІ для підвищення ефективності та покращення результатів.