L’idée d’une IA supervisée agissant comme directrice générale est venue de Steve Jobs qui a dit : « Il n’est pas logique d’embaucher des personnes intelligentes et de leur dire quoi faire. Nous embauchons des personnes intelligentes afin qu’elles puissent nous dire quoi faire. » 

Hunna Technology, qui utilise l’IA pour dépister et analyser des problèmes de santé, a testé le système IndigoVX pendant 12 mois pour assurer sa sécurité et sa conformité juridique avant d’annoncer sa promotion au poste de directrice générale. 

« J’ai démissionné en tant que directeur général en juillet parce que je crois qu’une IA supervisée par les humains peut me surpasser. Elle ne nous a pas déçus », a déclaré Ahmed Lazem, cofondateur de Hunna Technology. 

Une IA directrice générale ? 

Hunna Technology a obtenu un certain nombre de succès depuis la nomination d’IndigoVX au poste de directrice générale, notamment la définition d’une stratégie commerciale solide et réaliste, l’identification des idées qui ont donné lieu à la startup dès le départ et la livraison de recherches clés pour des discussions visant à déployer leur IA médicale aux Émirats arabes unis. 

« Le système d’IA IndigoVX n’a cessé de surpasser nos attentes. Il nous a éblouis », a reconnu le docteur Kais Dukes, directeur de la technologie et co-fondateur de Hunna Technology. 

L’IA directrice générale est parvenue à identifier des marchés sous-explorés, à optimiser l’affectation des ressources, et à prévoir avec exactitude les tendances des consommateurs, avec un taux de prise de décision positive de plus de 90 %. 

Il est important de signaler que l’IA directrice générale n’est pas entièrement automatisée. Hunna Technology explique que la nomination d’IndigoVX en tant que directrice générale ne revient pas seulement à lui donner un titre, il s’agit aussi d’automatiser partiellement le rôle d’un directeur général afin de guider l’ensemble des opérations de l’entreprise. 

« Nous pensons qu’il est justifié de donner au système le titre de directeur général, car en fin de compte, c’est l’algorithme qui décide, même si cet algorithme a une composante humaine », a commenté Hunna Technology. 

Garantir la responsabilité humaine dans l’IA 

Cette annonce fait suite à une réunion « historique » du Conseil de sécurité de l’ONU au cours de laquelle les membres ont débattu de l’IA. La responsabilité de la technologie de l’IA, la possibilité d’y avoir accès et un contrôle humain responsable ont été mentionnés comme des éléments fondamentaux de son développement. 

Le Conseil a manifesté un vif intérêt pour les défis existants, tout en proposant des solutions pour repérer les dangers futurs et y répondre. 

En l’absence d’une réglementation mondiale, l’IA risquerait de devenir un « train à la dérive ». 

Des personnalités publiques, telles que Kamala Harris, Steven Spielberg et Nikhil Rathi, le directeur général de la FCA (Autorité des comportements économiques), ont pris part au débat sur l’IA. Elles ont cité comme principales préoccupations les biais de l’IA, une éthique mal établie et des risques accrus en matière de cybersécurité. À l’échelle mondiale, il est reconnu qu’un déploiement sûr de l’IA nécessite davantage de législation. 

À cet égard, les gouvernements du monde entier rédigent des réglementations et des recommandations. Dans son livre blanc, le Royaume-Uni énonce cinq principes clés ayant pour objectif de guider son approche de l’IA, en mettant l’accent sur la création d’un environnement propice au développement de l’IA et à la gestion de ses risques potentiels. 

En outre, le règlement de l’UE sur l’IA souligne que les systèmes d’IA devraient être supervisés par des humains plutôt que par automatisation afin d’éviter des conséquences néfastes. 

IndigoVX n’ayant pas été entièrement automatisé par Hunna Technology, l’aspect de la responsabilité humaine est préservé.