Акт ЄС про штучний інтелект був офіційно опублікований Європейською комісією в липні 2024 року. Це перше законодавство, спрямоване на регулювання розвитку та використання ШІ в різних галузях з метою захисту основних прав громадян, у тому числі й у страхуванні, йдеться у дослідженні компанії Zühlke.
EU AI Act набуде чинності в лютому 2025 року. Спочатку він заборонить певні практики, а згодом запровадить конкретні вимоги для дозволених випадків використання штучного інтелекту. Невиконання вимог Акту може призвести до значних фінансових штрафів, включаючи штрафи до 7% від глобального обороту.
Який вплив АІ Акту на страхову галузь?
Акт про АІ має значні наслідки для страхової галузі, зокрема випадки використання класифікуються за рівнем ризику.
Обмеження та вимоги застосовуються до страховиків відповідно до присвоєного рівня ризику:
- Мінімальний ризик: включає випадки використання, де штучний інтелект відіграє обмежену роль у прийнятті рішень, такі як класифікація документів або пошукові системи. Вони не мають конкретних вимог.
- Обмежений ризик: включає чат-боти для клієнтів або ШІ для виявлення шахрайства. У таких випадках страховики мають забезпечити документування взаємодій і можливість пояснення рішень користувачам та регуляторам. Також необхідно інформувати користувачів про використання ШІ.
- Високий ризик: включає багато основних випадків використання в страхуванні, таких як андеррайтинг для страхування життя та здоров’я, обробка заяв, навчання та рекрутинг. Для дотримання вимог страховики мають адаптувати свої процеси управління ризиками та якістю. Вони повинні забезпечити нагляд людини для виявлення збоїв та документування розробки й роботи ШІ для доведення відповідності вимогам. Паралельно вони мають впроваджувати науково-технічні заходи для забезпечення надійності, безпеки та зрозумілості ШІ.
- Неприйнятний ризик: включає певні форми соціального скорингу та використання чутливих біометричних даних. Ці випадки використання повністю заборонені.
Окрім цього простого класифікування, керівникам страхових компаній слід також розуміти нюанси Акту про штучний інтелект.
Складні випадки використання штучного інтелекту
Акт ЄС про ШІ визначає межі на основі ринків страхування (життя та майна), функцій (шахрайство проти андеррайтингу) або даних (біометрія проти фінансів). Коли випадки використання охоплюють ці критерії, застосовується найвищий рівень ризику.
Наприклад, використання розпізнавання голосу для боротьби з шахрайством вважається високим ризиком, оскільки біометричні дані (голос) належать до цієї категорії.
Великі мовні моделі
Вони належать до систем загального призначення ШІ зі специфічними вимогами. Однак більшість страховиків покладатиметься на існуючі моделі третіх сторін (наприклад, чат-боти OpenAI, як chatGPT), причому відповідальність за відповідність лягає виключно на розробників моделей.
Це вплине лише на процеси закупівлі ШІ та перевірки партнерів страховиків.
Вимоги Акту про ШІ ЄС доповнюють існуючі регулювання, такі як Solvency II, DORA, CPC, IAF або GDPR. Однак часто можуть виникати збіги, що означає, що деякі вимоги вже можуть бути виконані в рамках цих існуючих нормативів.
Акт ЄС про ШІ має екстериторіальну дію, тобто будь-який штучний інтелект у Європі або який впливає на громадян ЄС, підпадає під його регулювання незалежно від країни походження страховика.
Ключі до успіху З набуттям чинності Акту страхові компанії повинні будуть проводити систематичні огляди свого портфеля ШІ, включаючи поточні та майбутні випадки використання.
Ці огляди мають виявити потенційні прогалини у відповідності та призвести до впровадження коригувальних заходів, якщо це необхідно.
Поради страховикам щодо використання штучного інтелекту
Створіть багатопрофільну команду управління ШІ, що охоплює фахівців з бізнесу, комплаєнсу, даних, ШІ та ІТ. Обов’язково включіть до команди юристів, оскільки в певних розділах Акту про ШІ все ще існують законодавчі невизначеності.
Андеррайтинг з використанням ШІ дозволений, якщо поведінкові або соціально-економічні дані не використовуються в "необґрунтованій або непропорційній" манері, що залишає значний простір для юридичного тлумачення.
Підвищуйте кваліфікацію своїх команд з науки про дані та інженерії. Створення відповідних ШІ-систем вимагає майстерності в нових інструментах і техніках.
Вчені з даних тепер можуть виявляти принципи роботи моделей, раніше вважаних "чорними ящиками".
Подібним чином, у кібербезпеці нові загрози, такі як інверсійні або евазійні атаки, вимагають нових заходів для захисту чутливих даних та забезпечення надійності моделей. Використовуйте стандарти як орієнтири для відповідності.
Європейська комісія має опублікувати список стандартів, що нададуть чіткі вказівки щодо вимог відповідності. Компанії, що дотримуються цих стандартів, вважатимуться такими, що відповідають вимогам Акту ЄС про ШІ.
ISO 42001 вважається найбільш ймовірним кандидатом для покриття вимог до управління ШІ, пов’язаних з управлінням ризиками та якістю.
Акт ЄС про ШІ вводить набір вимог і обмежень для страховиків, але його не слід сприймати лише як вимогу відповідності до нових норм. Насправді стандарти, запропоновані Актом, можуть допомогти страховикам отримати додатковий прибуток та знизити витрати.
З одного боку, вони сприяють довірі та прийняттю ринку завдяки прозорості; з іншого — надають вказівки для покращення надійності та продуктивності за допомогою технології ШІ. Тому, Акт про ШІ може стати шаблоном для відповідального та прибуткового використання штучного інтелекту в страховій галузі.
