Prolongation du délai ! Appel d’offres 2026 : Évaluation des LLM pour une étude comparative et une réévaluation des tâches actuarielles en assurance IARD

Tenez compte de votre expertise

Contribuez à façonner la manière dont la profession actuarielle évalue l'IA.

Le groupe de travail sur l'intelligence artificielle de l'Académie chinoise des sciences (CAS) invite les chercheurs et les experts du domaine à contribuer à l'élaboration d'un cadre d'évaluation robuste et fondé sur des données actuarielles, conçu pour évaluer les modèles de langage modernes de grande taille (LLM) appliqués aux tâches d'assurance IARD. Face à l'évolution rapide des modèles de pointe, notre objectif est de créer une méthode transparente et reproductible permettant d'évaluer la performance de ces systèmes sur des problèmes importants en pratique actuarielle, et de réévaluer cette performance à chaque nouvelle publication de modèles, jusqu'à ce que ces derniers aient démontré leur capacité à résoudre les problèmes de référence.

METTEZ EN VALEUR VOTRE EXPERTISE

Contribuez à façonner la manière dont la profession actuarielle évalue l'IA.

Opportunité de recherche CAS 2026

Date limite de dépôt des propositions : 30 octobre 2026

Cette initiative soutient la mission plus large de la CAS, qui consiste à explorer de manière responsable les technologies d'IA et à doter ses membres d'outils et de connaissances pouvant être appliqués concrètement à la constitution de réserves, à la tarification et aux flux de travail connexes.

Le présent appel d'offres porte sur des tâches où le travail du LLM consiste à reconnaître, classer ou juger correctement quelque chose par rapport à une réponse de référence, et non à générer un texte ouvert. Le résultat peut être évalué objectivement, car il existe une réponse correcte définie à laquelle se comparer. Cela contraste avec les tâches génératives (rédaction d'un rapport de réserve, rédaction de communications avec les clients), où la « justesse » est subjective/qualitative et plus difficile à évaluer de manière reproductible.

Problème de recherche

La profession actuarielle ne dispose actuellement d'aucun cadre normalisé pour évaluer les mémoires de maîtrise en actuariat portant sur des problèmes dont les réponses sont objectivement mesurables et reproductibles (par exemple, le tri des sinistres, les décisions de souscription, le signalement des fraudes, les barèmes de tarification, les questions réglementaires, la gestion des risques, la constitution de provisions, la crédibilité). Cela les distingue des tâches génératives, où la notion d'« exactitude » est plus difficile à définir.

Les auteurs de propositions doivent concevoir une suite fixe et versionnée de tâches d'évaluation, pouvant être réexécutée efficacement lors de la publication de nouveaux modèles, permettant ainsi au CAS de suivre les performances au fil du temps. Si les modèles actuels finissent par résoudre toutes les tâches, ce résultat est en soi précieux. Le CAS introduira alors des tâches plus difficiles ou nouvelles afin de maintenir la pertinence du référentiel.

Les auteurs des propositions sont responsables de la conception et de la mise en œuvre de l'écosystème complet d'analyse comparative : conception des tâches, collecte des données, protocoles d'évaluation et une plateforme de comparaison publique qui reflète les véritables défis actuariels et d'assurance IARD.

Exigences relatives à la proposition et au produit de travail

Réponses aux questions fréquemment posées concernant cet appel d'offres

L’équipe de projet sélectionnée fournira un cadre d’analyse comparative de bout en bout conforme aux attentes suivantes.

Conception des tâches
  • Développer un ensemble rigoureux de tâches de perception et de classification pertinentes sur le plan actuariel, ainsi que s'appuyer sur des ensembles de données de référence d'assurance ouverts existants.
  • Exemple (y compris, mais sans s'y limiter) : triage/classification des réclamations, décisions de souscription, segmentation des polices et signalement des risques de fraude ou de litige.
  • Idéalement, les compétences actuarielles générales sont décomposées en sous-tâches d'évaluation précises et bien définies. Par exemple, décomposer la « constitution des provisions » en reconnaissance des schémas d'évolution des sinistres ou en classification de la gravité des sinistres.
Assemblage de l'ensemble de données
Création de suites de benchmarks
  • Fournissez toutes les définitions de tâches, les ensembles de données, les méthodologies de notation et les scripts d'évaluation.
  • La notation doit reposer sur des mesures reproductibles et objectives (par exemple, la précision, F1, score Brier, perte logarithmique).
Cadre d'évaluation des modèles
  • Mettre en œuvre des protocoles d'évaluation standardisés pour les principaux modèles commerciaux actuels de Google, Anthropic et OpenAI.
  • De même, évaluez au moins 3 des meilleurs modèles open-source.
  • Le cadre d'évaluation doit permettre des tests reproductibles. À mesure que de nouveaux modèles de pointe sont publiés, le CAS doit pouvoir exécuter la suite de tests de référence existante sur ces modèles avec un minimum d'efforts d'ingénierie supplémentaires.
Plateforme de comparaison
  • Fournir une plateforme publique interactive et conviviale permettant de comparer les performances des modèles sur différentes tâches.
  • Concevoir la plateforme comme un cadre extensible afin de pouvoir ajouter de nouveaux modèles et de nouvelles tâches de référence au fil du temps.
  • Permettre aux actuaires et aux chercheurs de proposer des tâches d'évaluation et des ensembles de données supplémentaires.
  • Autoriser la mise à jour dynamique des évaluations des modèles en fonction des nouvelles données soumises et des critères de performance définis.
Documentation, rapports et maintenance continue
  • Un rapport écrit détaillé résumant la méthodologie, les comparaisons de performances des modèles et leurs limites.
  • Après la livraison, le CAS sera propriétaire et responsable de la maintenance de la suite de tests de référence et de la plateforme de comparaison, y compris le retest des nouveaux modèles au fur et à mesure de leur publication, l'ajout de nouvelles tâches de test de référence au fil du temps et la maintenance de la plateforme.
  • Les propositions doivent inclure une documentation suffisante pour CAS exploiter et maintenir le système de manière indépendante, sans nécessiter l'intervention continue du contractant. Cela comprendrait (sans toutefois s'y limiter) les instructions, le code et les fichiers de configuration.
  • Des recommandations claires sur la maintenance, la gouvernance et la fréquence des mises à jour.
Exigences de publication GitHub

Afin de garantir l'ouverture et la reproductibilité,Tous les jeux de données, le code, les définitions de référence, les scripts de notation et la documentation doivent être publiés sur un dépôt GitHub CAS.

Produits livrables finaux

Le travail final doit comprendre :

  1. Comparaison Plate-forme: Interface publique présentant des comparaisons de modèles, conçue pour des tests reproductibles sur de nouveaux modèles.
  2. Suite de benchmarks : Ensembles de données, descriptions des tâches, scripts de notation.
  3. Rapport d'évaluation du modèle : Analyse complète des performances aux tâches de perception/classification.
  4. Résumé: Un résumé (1 à 2 pages) adapté à un article de blog ou de magazine, rédigé pour un public non technique et mettant en évidence les principales idées et implications pour la pratique actuarielle.
  5. Documentation de réplication : Instructions, code, fichiers de configuration.
  6. Recommandations d'entretien : Orientations pour une gestion responsable à long terme.
  7. Publication complète sur CAS GitHub.

Soumettre des propositions

Les chercheurs intéressés doivent soumettre :

  • Un exposé détaillé de leur solution proposée
  • Stratégie de jeu de données, de génération de données ou de simulation de données
  • Approche et méthodologie du projet
  • Structure budgétaire et de tarification
    • Estimation des dépenses personnelles (par exemple, stockage dans le cloud, utilisation de l'API LLM, modèles de réglage fin, licences de logiciels, etc.) nécessaires pour terminer le travail.
    • Rémunération attendue du travail.
    • Ne pas inclure les frais généraux.
  • Qualifications et expérience pertinente de l'équipe, y compris les CV des chercheurs, indiquant comment leurs antécédents, leur formation et leur expérience démontrent leurs qualifications pour entreprendre la recherche.
  • Plan de projet et étapes clés

Date limite de dépôt des propositions : 30 octobre 2026

Les chercheurs intéressés doivent soumettre leurs propositions à Heather Davis, responsable de la recherche au CAS, à l'adresse suivante : hdavis@casact.org et Elizabeth Smith, directrice de la recherche et des publications de CAS, à esmith@casact.org avant le 30 octobre 2026, avec pour objet : « Soumission de proposition pour l’étude comparative actuarielle LLM ».

La période de soumission des questions est terminée. Vous trouverez les réponses aux questions posées dans cette FAQ..

Pour en savoir plus, veuillez écrire à hdavis@casact.org et esmith@casact.org.

Les propositions seront reçues dans les meilleurs délais. Les soumissionnaires qui n'obtiendront pas le contrat en seront informés peu de temps après.

Un contrat CAS sera attribué au soumissionnaire qui, de l'avis du groupe de travail sur l'intelligence artificielle de CAS, est le mieux à même de réaliser les travaux conformément au cahier des charges. Si le groupe détermine qu'aucune proposition ne satisfait aux exigences de l'appel d'offres, aucun contrat ne sera attribué.

Processus de sélection

Le groupe de travail sur l'IA de l'Académie chinoise des sciences évaluera les propositions selon les critères suivants :

  • Compréhension de l'actuariat perception et classification tâches
  • Compétences techniques en IA et analyse comparative
  • Faisabilité et clarté de l'approche
  • Qualité de la conception de référence
  • Force des qualifications de l'équipe
  • Rentabilité
  • Capacité à fournir des résultats reproductibles et transparents

Si aucune proposition ne satisfait aux exigences, le CAS peut refuser d'attribuer un contrat.

Rémunération

Le montant de la subvention se situera vraisemblablement entre 25 000 $ et 65 000 $, mais les demandes en dehors de cette fourchette pourront être examinées si elles reposent sur un mérite scientifique exceptionnel et un budget solidement justifié. Les candidats sont invités à ne solliciter que le financement nécessaire à la réalisation des travaux proposés. Nous tiendrons compte de la pertinence du budget et de l’utilisation optimale des ressources de la Faculté des arts et des sciences lors de l’évaluation des propositions.

  • Le budget maximal pour ce projet est $75, 000.
  • Les soumissionnaires doivent inclure un devis détaillé pour les travaux spécifiés, ainsi qu'une estimation des coûts récurrents que le CAS devra supporter pour la maintenance indépendante du système. Veuillez noter que ces coûts sont distincts du financement couvert par le présent appel d'offres.
  • Une partie du financement devrait servir à couvrir les frais de déplacement habituels pour présenter l'article lors d'un séminaire ou d'une réunion parrainée par la CAS.
  • Le financement de la recherche du CAS ne couvre pas les frais généraux, mais peut couvrir les salaires et les avantages sociaux.
  • La rémunération sera proportionnelle au temps nécessaire à la réalisation des travaux.
Supervision et publication du projet
  • Comme condition de sélection, la CAS exige que tous les droits, titres et intérêts, y compris les droits d'auteur et les brevets, relatifs au rapport lui appartiennent. Le ou les chercheurs sélectionnés doivent signer un accord de recherche formel cédant tous ces droits à la CAS.
  • Dans toute publication du rapport, le ou les chercheurs seront dûment cités comme auteurs. La CAS peut publier le rapport dans son intégralité, ou certaines sections, sous tout format et support qu'elle juge appropriés, y compris, mais sans s'y limiter, les publications de la CAS, les versions électroniques sur son site web ou sur des supports physiques. Toute publication hors de la CAS nécessite l'autorisation de la CAS, et les auteurs sont tenus de mentionner les publications antérieures.
  • Si l'auteur publie la version finale de l'article sur une plateforme de prépublication telle qu'ArXiv, l'Académie chinoise des sciences (CAS) doit être mentionnée comme financeur de la recherche.
  • Le ou les chercheurs doivent tout mettre en œuvre pour être disponibles afin de présenter leurs résultats et de partager leur expertise lors d'une réunion ou d'un séminaire de la CAS.
  • Le projet sera supervisé par le groupe de travail sur l'IA de l'Académie chinoise des sciences, avec des contrôles réguliers.-ins.
Exigences relatives au papier
  • Afin de faciliter l'adoption de la recherche, le code et les données du produit final seront également déposés sur le dépôt GitHub du CAS, sous licence MPL 2.0. L'auteur devra inclure un lien vers le dépôt des articles de recherche du CAS dans le corps du texte final : https://github.com/casact/research-papers.
  • Les auteurs doivent signaler toute utilisation spécifique de l'intelligence artificielle dans leurs recherches.
  • Tous les tableaux et figures doivent être numérotés et comporter une légende dans le texte.
  • Les manuscrits doivent inclure un résumé de 150 mots maximum.
  • Les références doivent utiliser le système auteur-date du Chicago Manual of Style, 18e édition.
  • Les manuscrits doivent inclure une liste de 2 à 10 mots-clés pertinents pour aider les lecteurs à découvrir le contenu en ligne.
Forum

Propositions dues

30 octobre 2026

Les chercheurs sont informés

30 novembre 2026

Réunion de lancement avec le groupe de supervision du projet

À déterminer

Résumé exécutif dû

30 décembre 2026

Brouillon 1 dû

À déterminer

Brouillon 2 dû

À déterminer

Le devoir final est à rendre

30 juillet 2027

À propos de la Casualty Actuarial Society et du groupe de travail sur l'intelligence artificielle

Depuis plus de 100 ans, le Société actuarielle des accidents du travail (CAS) La CAS est une autorité mondiale de référence en matière de sciences actuarielles dans le domaine de l'assurance dommages. Forte de près de 12 000 membres à travers le monde, elle met son expertise au service des particuliers, des entreprises et des collectivités pour les aider à saisir les opportunités et à prospérer dans un monde en constante évolution. La CAS propose des certifications de haut niveau, des recherches de pointe et des formations dynamiques pour le développement professionnel, ancrées dans la pratique et soutenues par une communauté mondiale de membres dynamique. La CAS permet aux actuaires de faire progresser leur carrière et d'apporter des solutions innovantes et fiables aux défis complexes et émergents du secteur de l'assurance dommages. Pour en savoir plus, consultez casact.org.

Le Groupe de travail sur l'intelligence artificielle de l'Académie chinoise des sciences Cette organisation a été créée pour remplir la mission de la CAS, qui est de « faire progresser les connaissances » sur une technologie qui transforme la pratique actuarielle. Son objectif est d’encourager l’exploration de l’intelligence artificielle dans la pratique actuarielle par le biais de la recherche, afin de contribuer à la formation des membres, d’enrichir les connaissances, de fournir des perspectives pratiques et de positionner la CAS comme un chef de file en la matière.