Le lauréat du prix Turing, Yoshua Bengio, lance un laboratoire de sécurité AI à but non lucratif appelé Lawzero pour construire des systèmes d’IA plus sûrs, a-t-il déclaré lundi au Financial Times.
Lawzero a levé 30 millions de dollars en contributions philanthropiques de l’ingénieur fondateur de Skype Jaan Tallinn, de l’ancien chef de Google Eric Schmidt, de la philanthropie ouverte et de l’Institut Future of Life, entre autres. Le nom Lawzero est un clin d’œil à un concept de science-fiction: la loi Zeroth de la robotique, qui place la protection de l’humanité avant tout.
Bengio, considéré comme l’un des «parrains» du boom de l’IA moderne, est devenu l’un des défenseurs les plus vocaux du mouvement de sécurité de l’IA. Il a publiquement soutenu SB-1047, le projet de loi controversé controversé de la sécurité de l’IA qui visait à empêcher les systèmes d’IA de provoquer des scénarios catastrophiques.
Dans une interview avec le Financial Times, Bengio a déclaré qu’il avait peu confiance en Openai et Google pour hiérarchiser la sécurité alors qu’ils circulaient vers des systèmes d’IA plus intelligents.
