"Fine-tuning de Grands Modèles de Langage (LLMs) dans le but d'une correction post-OCR d'anciens articles anglais de la revue 'Science' afin d'étudier les cas d'incertitudes de ces articles" - Projet InSciM (financé par l'ANR) au sein du C.R.I.T., en collaboration avec l'Université du Québec à Montréal.

Tâches effectuées :

Domaine linguistique :

• création de règles (expressions régulières)
• apprentissage de nouveaux outils/libraries (Symspell, RapidFuzz)
• création d'un algorithme utilisant SymSpell pour corriger des erreurs spécifiques

Domaine statistique :

• expérimentations, entraînement et fine-tuning de T5-base (Hugging Face), évaluation et utilisation
• lecture de divers articles sur l'apprentissage automatique, acquisition de connaissance de divers modèles (BART, ByT5, Flan)
• expérimentations sur l'efficacité des LLMs - Mistral, ChatGPT-4o, Llama 3.2 3B Instruct + Phi 3.5, Llama 3.1 8B (zero-shot, few-shot)
• refining des prompts pour les LLMs afin d'avoir les meilleurs résultats possibles (web & Ollama)

Autres tâches :

• apprentissage individuel de LaTeX pour la tenue d'un fichier commun à tout le projet
• transcriptions et corrections manuelles de fichiers océrisés
• apprentissage de GitHub pour la tenue d'un répertoire privé

Ce projet a été réalisé en équipe, avec mon tuteur, ma référente, et d'autres stagiaires.