Imaginez une start-up unipersonnelle, entièrement dépendante des plateformes d'IA, qui s'effondre à cause d'une série d'erreurs incontrôlées, transformant une minuscule erreur initiale d'IA en une perte catastrophique. Qui est responsable ? Comment protéger les assurés des risques liés à l'utilisation de l'IA ? Comme le démontrent les récentes versions de GPT-5, Grok Imagine et Genie 3, les capacités de l'IA continuent de progresser, tout comme les risques qu'elle comporte. Karthik Ramakrishnan, fort de son expérience dans le domaine technologique et en collaboration avec le Dr Yoshua Bengio (considéré par beaucoup comme un père de l'IA), a fondé Armilla AI pour se spécialiser dans l'identification, l'atténuation et le transfert des risques pour les systèmes d'IA. L'entreprise utilise des méthodes avancées de validation de modèles et d'analyse prédictive pour renforcer la confiance et une souscription robuste. Dans cet entretien, découvrez comment les actuaires (certifiés et émergents) sont particulièrement bien placés pour valider les modèles, prévoir les défaillances et identifier les stratégies d'assurance qui permettront de gérer les risques liés à l'IA et d'étendre la profession aux frontières de l'IA. 

Quel a été votre processus de réflexion qui vous a conduit à connecter l’assurance aux risques liés à l’IA ?  

Après avoir travaillé de nombreuses années dans le secteur des technologies, j'ai eu l'occasion de développer de véritables applications d'IA dans divers secteurs entre 2017 et 2019, aux côtés du Dr Yoshua Bengio. À cette époque, de nombreux clients m'ont fait part de leurs commentaires selon lesquels ces systèmes (d'IA) n'étaient pas parfaits ; ils étaient probabilistes et, par conséquent, comportaient des erreurs. Comment une entreprise peut-elle céder le contrôle à de telles machines alors qu'elles sont initialement défaillantes ? Malgré cela, ma thèse était que de nombreux processus existants seront intelligemment automatisés. Or, même automatisés intelligemment, ces processus risquent de provoquer un effet domino. C'était un premier aspect. L'autre aspect est devenu évident lorsque j'ai partagé ma thèse avec des amis travaillant dans le secteur des assurances. Ils m'ont expliqué que, si ma thèse était vraie, le secteur des assurances devrait à un moment ou à un autre repenser sa politique de souscription. Si la couverture ou les expositions externes ne changent pas, la source du risque (IA) et les facteurs de risque seront différents ; le profil de risque sera différent ; et les modèles actuariels devront être ajustés et repensés. C'est là que le lien s'est fait. Je n'avais jamais envisagé l'assurance auparavant, mais ce risque émergent était réel. Tellement réel, en fait, que j'en ai conclu : l'IA avait besoin d'une assurance.  

Pouvez-vous développer le risque que les processus d’IA provoquent un effet domino et expliquer pourquoi cela pourrait être une opportunité pour les actuaires ? 

À mesure que les systèmes d'IA gagnent en popularité, de plus en plus d'entreprises les utilisent massivement. Un cas extrême pourrait être celui d'une entreprise à fondateur unique s'appuyant entièrement sur des outils d'IA pour fonctionner. Si un système d'IA commet une erreur, cela pourrait déclencher un effet domino ; une petite erreur dans une IA pourrait se répercuter sur les autres. Imaginez une IA ajoutant un zéro à une réclamation d'assurance de 10 000 $, la portant à 100 000 $. Si cette erreur se propage à d'autres processus d'IA, les conséquences pourraient être très importantes. La conception probabiliste de l'IA garantit des défaillances occasionnelles, ce qui soulève la question de la responsabilité (potentiellement dévastatrice pour une petite entreprise). Ainsi, avec l'adoption généralisée de l'IA, ces risques deviennent tangibles, et s'assurer contre ces risques est crucial, offrant aux actuaires l'opportunité d'apporter une valeur ajoutée. 

Comment les actuaires peuvent-ils jouer un rôle et renforcer la confiance dans les systèmes d’IA ? 

Les actuaires sont formés pour comprendre les mathématiques qui sous-tendent un modèle. Instaurer la confiance dans les systèmes d'IA est le problème le plus urgent à résoudre. C'est là que les actuaires peuvent intervenir. Ils peuvent contribuer à la validation et aux tests des modèles (par exemple, l'évaluation des modèles sur plusieurs dimensions, comme les biais) afin que les entreprises puissent comprendre 1) comment le modèle va échouer et 2) l'impact que cela aurait. Pouvons-nous nous sentir à l'aise avec la capacité de prédire comment un modèle va échouer ? Les données sont un élément clé pour y parvenir, et elles sont nécessaires en grande quantité. 

Si vous ne pouviez partager qu’un seul message clé avec la communauté actuarielle à propos de l’assurance IA, quel serait-il ? 

L'IA représente un risque très technique, et sa gestion recoupe à bien des égards la formation d'un actuaire. Les actuaires peuvent mettre en commun toutes leurs compétences pour analyser le modèle d'un client, se dire « Je comprends ce risque » et évaluer le niveau de risque associé à ce modèle. Les compétences techniques sont essentielles pour évaluer un système d'IA et anticiper ses éventuelles défaillances ; les actuaires sont particulièrement qualifiés pour cela.  

La vision de Ramakrishnan montre comment les actuaires peuvent élargir leur rôle, passant du statut d'évaluateurs de risques traditionnels à celui de « gardiens de l'IA », en prévoyant les défaillances et en évaluant les risques liés à l'IA avec précision afin de renforcer la confiance dans les technologies d'IA et de protéger les entreprises de l'inconnu. Le risque lié à l'IA n'est pas seulement un créneau émergent ; c'est une opportunité pour les actuaires d'accroître leur impact.

Vous pouvez contacter le CAWG à l'adresse cawg@casact.org. Les candidatures pour rejoindre le groupe de travail en tant que représentant(e) candidat(e) sont acceptées chaque année. Cette année, les candidatures seront acceptées jusqu'au 30 septembre 2025. Pour plus d'informations, consultez le site web du CAS.