Outil d’aide à l’identification des codes d’activités pour les souscripteurs

Présentation du stage chez Co-operators

Francis Duval, Chercheur Scientifique | Recherche et Innovation Analytique

20 janvier 2025

Co-operators

Une coopérative d’assurance de dommage

• Fondée en 1945 par un groupe de fermiers.
• Coopérative de deuxième niveau (donc détenue par des coopératives).
• But: « Assurer la sécurité financière des Canadiennes et Canadiens et de nos collectivités. Parce que nous sommes une coopérative, nos décisions d’affaires sont guidées par nos valeurs d’inclusion et de développement durable et responsable. »

Lignes personnelles Lignes commerciales

• Tout d’abord, je vais vous parler un peu de Co-operators
• On est une coopérative d’assurance de dommages, mais on fait également de l’assurance vie et de l’investissement.
• A été fondée dans les années 1940 par un groupe de fermiers qui ne trouvaient pas de produit d’assurance convenable pour leur fermes. Ils se sont donc mis ensemble pour s’assurer.
• C’est une coopérative de deuxième niveau, donc qui est détenue par d’autres coopératives. C’est un peu similaire à Desjardins comme structure.
• Puisque nous sommes une coopérative, le profit n’est pas notre unique but. Notre but est d’assurer la sécurité financière des Canadiens et de nos collectivités, et on est guidés par nos valeurs d’inclusion et de développement durable et responsable.
• Par exemple, pour notre valeur d’inclusion, on est pas mal le seul assureur au Canada à assurer les gens à risque d’inondations. Pour le développement durable et responsable, on adopte des pratiques durables, notamment dans nos processus de réclamations (séchage sur place, nettoyage des tissus, programme de récupération, etc.).
• On a 2 grandes lignes d’affaire en assurance de dommages. On a les lignes personnelles, dans lesquelles on assure des individus. On a également les lignes commerciales, dans lesquelles on assure des entreprises, et bien sûr, des fermes.
• Le projet dont je vais vous parler aujourd’hui est en lien avec les lignes commerciales.

L’équipe de recherche

• Équipe qui supporte plusieurs équipes pour des projets d’analytique avancée.
• S’occupe également des partenariats académiques (p. ex. la Chaire Co-operators en analyse des risques actuariels de l’UQAM, stage Cégep de Ste-Foy).

• Je fais partie de l’équipe de recherche et d’innovation analytique.
• On est une équipe qui supporte plusieurs autres équipes pour des projets très divers qui requièrent une expertise particulière.
• On fait partie du département d’intelligence d’affaires et donc bien sûr, les données sont notre matière première.
• Notre rôle, c’est de faire parler les données en s’aidant de plusieurs outils d’analytique avancée, comme le machine learning, l’intelligence artificielle et autres.
• On s’occupe également des partenariats académiques, comme je suis en train de faire aujourd’hui.

Outil de sélection des codes d’entreprise (IBC Codes)

Problème

Lorsqu’on assure une entreprise, on doit lui assigner un code parmi 1260 codes. Étant donnée une description d’entreprise, on doit assigner le bon code.

Données

IBC Codes

Index	IBC Code	IBC Code Description
1	0735a10	Architects - Landscaping Only
2	8916a10	Engineers
3	8075a10	Sanitariums
4	5813a10	Coffee shops (warming of food only, no roasting of beans)
…	…	…
1260	3496a10	Electronic games

Entreprises

Index	Company Description	IBC Code
1	Takeout meals-see policy, coding only	5814a10 – Take out meals
2	Construction of church building extension	1830a20 – Building construction - general contr.
3	Construction and renovation of gas stations including installation and removal of underground tanks and related pumps, carwash facilities. Snow clearing.	1782a40 – Underground storage tank - remediation contractors
…	…	…
136 000	Licensed Restaurant	5812a10 – Restaurants - licensed (Not liquor revenue)

• Donc votre mandat pour le stage, c’est d’ajouter une extension à un projet que j’ai réalisé cette année. Je vais vous expliquer plus tard en quoi ça consiste exactement.
• Le projet que j’ai réalisé, c’est un outil de sélection de codes d’entreprises.
• Le problème est le suivant: lorsqu’on assure une entreprise, le souscripteur doit lui assigner un code parmi 1260 codes, ce qui n’est pas toujours évident. Ces codes sont appelés « IBC codes » parce qu’ils sont régis par le Insurance Bureau of Canada. On a besoin des codes notamment pour nos algorithmes de tarification. Étant donnée une description d’entreprise, on doit lui assigner le bon code.
• Pour ça, on a 2 jeu de données. Le premier contient tous les codes et leur description. Les codes correspondent en fait à des secteurs de l’industrie. Le deuxième contient 136 000 entreprises qu’on a assurées dans le passé avec leur code IBC associé.

Outil de sélection des codes d’entreprise (IBC Codes)

Solution: encoder les descriptions de codes et d’entreprises avec un modèle de language

Embedding : vecteur de nombres réels qui représente une chaine de caractères (mot, phrase, document, etc.)¹

• Un bon modèle va placer les concepts similaires proches dans l’espace d’embedding.

• La solution qu’on a développée, c’est d’abord d’encoder les descriptions de codes et d’entreprises en utilisant un modèle de language.
• En gros, ça consiste à obtenir un embedding pour chaque description.
• Un embedding, c’est simplement un vecteur, en n dimensions, qui représente une chaine de caractères.
• Pour obtenir un embedding, on a besoin d’un modèle d’embedding.
• Un bon modèle d’embedding va placer les concepts similaires proches dans l’espace d’embedding.

1. En français, se traduit par plongement ou représentation vectorielle.

Outil de sélection des codes d’entreprise (IBC Codes)

Par exemple, quel code doit-on assigner à l’entreprise:
Small business manufacturing and selling equipment for hockey referees?

Comment procède-t-on pour assigner le bon code IBC?

1. On obtient un vecteur d’embedding représentant la description d’entreprise.
2. On obtient également un vecteur d’embedding pour chaque code IBC.
3. On calcule la distance entre l’entreprise et chaque code IBC.
4. Finalement, on choisit le code IBC qui est le plus proche de l’entreprise.

• Les embeddings sont obtenus avec un modèle de langage appelé Sentence-BERT.
• On a finetuné Sentence-BERT sur nos données d’entreprises et de codes IBC afin de l’entrainer à rapprocher les descriptions de leur code correspondant.

• En gros, le fonctionnement du modèle est le suivant.
• Supposons qu’on a une description d’entreprise, en vert, pour laquelle on veut assigner un code.
• On va d’abord obtenir un embedding (donc un vecteur en n dimensions) qui représente la description.
• On a également préalablement obtenu un embedding pour chaque code IBC.
• On peut maintenant imaginer notre entreprise et les 1260 codes IBC comme des points dans un espace en n dimensions.
• On peut donc aller calculer une distance entre l’entreprise et chaque code IBC.
• Et finalement, on choisit le code IBC qui est le plus proche de l’entreprise.
• J’ai simplifié un peu, mais en gros, c’est ça l’idée.
• Les embeddings sont obtenus avec un modèle de language appelé Sentence-BERT.
• En gros, c’est un modèle basé sur BERT (un modèle encodeur développé par Google) adapté à l’encodage de phrases (plutôt que de mots).
• On a également finetuné SBERT sur nos données afin de le spécialiser dans notre tâche à accomplir.

Outil de sélection des codes d’entreprise (IBC Codes)

Application Shiny

• L’outil ressemble à ça.
• On écrit description dans la boite, on clique sur « Obtenir les codes IBC » et ça nous donne les 5 codes les plus probables, avec le degré de confiance associé.
• On peut aussi utiliser l’outil pour trouver des entreprises similaires.

Mandat du stage

Ajout d’une extension à l’outil de sélection des codes

• Cette extension permettra à l’utilisateur d’entrer une URL au lieu d’une description.
• En résumé, création d’une fonction qui prend en entrée une URL et qui donne en sortie la description de l’entreprise (en anglais).
  • Moissonage web (web scraping) pour extraire le texte de la page HTML.
  • Modèle de sommarisation pour extraire une courte description à partir du texte de la page?
  • Modèle de traduction pour les pages en français?
  • IA générative + prompt engineering pour obtenir directement une description?
  • Etc.

Avantages

• Permettra à l’utilisateur d’arriver plus rapidement à une description d’entreprise, et donc à un code IBC.
• Permettra d’améliorer la qualité des descriptions et de gérer les comportements inattendus (p. ex., des utilisateurs qui entrent autre chose qu’une description de l’entreprise).

• Votre mandat durant le stage, ça sera d’ajouter une extension à l’outil qui permet à l’utilisateur d’entrer une URL au lieu d’une description.

• En gros, on veut que vous développiez une fonction qui prend en entrée l’adresse d’une page web d’une entreprise et qui renvoie la description de l’entreprise.

• J’ai commencé un peu à explorer les pistes de solution (vraiment très légèrement), et je pense que vous aurez fort probablement besoin de faire du moissonage web.

• Ensuite, ça dépend un peu de la solution que vous allez développer, mais vous aurez peut-être besoin d’utiliser un modèle de language, par exemple un modèle de sommarisation pour arriver à une courte description (il y a parfois beaucoup de texte sur une page web, vous aurez donc peut-être à distiller l’information).

• Vous aurez aussi peut-être besoin d’un modèle de traduction pour les pages en français.

• Ou peut-être qu’une solution serait d’utiliser un modèle génératif. J’ai essayé avec GPT-4, et si je lui donne une URL d’un site web d’entreprise avec l’instruction de me générer une courte description, ça a l’air de bien fonctionner. GPT-4 semble donc capable de faire du web scraping. Le seul problème, c’est qu’idéalement, on voudrait une solution gratuite, mais peut-être que certains modèles génératifs open-source (et donc gratuits) permettent ça égalament.

• Pourquoi on veut développer cette extension là? C’est que ça va permettre à l’utilisateur d’arriver plus rapidement à un code IBC, sans avoir à rédiger une description d’entreprise.

• Aussi, ça va permettre d’améliorer la qualité des descriptions et de gérer les comportements inattendus des utilisateurs. Par exemple, certaines personnes peuvent ne pas savoir qu’est-ce qu’ils doivent entrer exactement dans la boite.

Moissonage Web (Web Scraping)

Voici une fonction en Python qui extrait le code HTML complet d’une page web:

• Je me suis fait une petite fonction en Python qui permet d’extraire tout le code HTML d’une page web.
• Je me suis amusé à extraire le code HTML de 4 pages web: le site web de Co-operators, le site d’un théâtre pris aléatoirement sur Google Maps, le site du restaurant la Banquise à Montréal et le site du Cégep de Ste-Foy.

Moissonage Web (Web Scraping)

Résultats de l’application de la fonction à 4 sites web

Nom	Site Web	Extraction
Co-operators	https://www.cooperators.ca/en/	cooperators_html_content.txt
Théâtre Ialto	https://www.theatrerialto.ca/halls	rialtotheatre_html_content.txt
Restaurant La Banquise	https://labanquise.com/en/	labanquise_html_content.txt
Cégep de Ste-Foy	https://www.csfoy.ca/accueil	cegep_ste_foy_html_content.txt

• J’ai extrait le contenu HTML dans des fichiers texte, que je vais ouvrir.
• Donc ici, on a le contenu de la page d’accueil de Co-operators. Il y a quand-même pas mal de contenu.
• On peut observer qu’il y a un tag « description » ici, qui semble être une courte description de l’entreprise.
• Mais est-ce que tous les sites ont ce tag-là? Et est-il toujours une bonne description de l’entreprise? Je ne sais pas.
• Peut-être que la solution c’est simplement de prendre ce tag-là, ou bien peut-être que ce n’est pas suffisant et qu’il faut prendre en compte tout le texte de la page.
• Ici, on a le contenu de la page du théâtre. Ici aussi, on a une courte description. Est-ce une bonne description? On peut tester dans l’outil.
• Ici, on a le restaurant la Banquise. Ici aussi, on a l’air d’avoir une bonne description.
• Finalement, on a le site du Cégep. On a une bonne description ici aussi, mais le contenu est seulement disponible en français, donc peut-être besoin d’un modèle de traduction.

Télécharger un modèle à partir de Huggingface.co

Huggingface

Site Internet dédié à l’intelligence artificielle. Entre autres, contient des milliers de modèles open-source qu’on peut télécharger et utiliser gratuitement.

1. Aller sur Huggingface.co
2. Cliquer sur l’onglet « Models »
3. Choisir le type de modèle (p. ex., « Summarization »)
4. Choisir le modèle (p. ex., « facebook/bart-large-cnn »)
5. Cliquer sur « Use this model »

Inference API: outil pour essayer le modèle directement sur le site d’HuggingFace (requiert un compte HuggingFace gratuit).

• Je veux terminer par vous parler rapidement d’un site web qui s’appelle « HuggingFace » et qui pourrait vous être très utile pour ce projet.
• C’est un site Internet qui est dédié à l’intelligence artificielle. On peut y trouver entre autres plein de modèles de language pour diverses utilisation. On peut télécharger gratuitement ces modèles, les utiliser directement et les fine-tuner sur notre tâche particulière.

Questions?