OpenAI finance la recherche scientifique sur des algorithmes capables de prédire les jugements moraux des gens. TechCrunch écrit à ce sujet en référence à une déclaration déposée auprès de l'IRS.
La startup a accordé une subvention à des chercheurs de l’Université Duke pour un projet intitulé « Investigating AI Morality ».
Les détails sur les travaux sont rares et le chercheur principal, Walter Sinnott-Armstrong, a refusé de commenter les réalisations. La subvention prend fin en 2025.
Auparavant, Sinnott-Armstrong et Jana Borg, une autre participante au projet, avaient écrit un livre sur le potentiel de l'IA en tant que « GPS moral » pour aider les gens à prendre des décisions plus éclairées.
En collaboration avec d’autres équipes, ils ont créé un algorithme « moralement orienté » pour aider à décider qui devrait donner des reins. Ils ont également évalué les situations dans lesquelles les gens préféreraient déléguer la prise de décision à l’IA.
L’objectif des travaux financés par OpenAI est de former des algorithmes pour « prédire les jugements moraux humains » dans des situations qui suscitent des conflits dans les domaines médical, juridique et commercial.
