La nouvelle selon laquelle l'automatisation commencera tôt ou tard à priver massivement les gens de leur emploi et à les laisser derrière la clôture de l'utilité sociale ne suscitera probablement pas d'émotions positives chez une personne tournée vers l'avenir. Des émissions comme "The Terminator" ou, par exemple, le nouveau "World of the Wild West" alimentent le feu, qui contribuent également à la tirelire commune des préoccupations, mais du point de vue du développement d'une intelligence artificielle "inamicale".
Ces craintes sont-elles réelles? Peut être. Ou peut-être est-ce juste une hystérie artificielle. Quoi qu'il en soit, l'Institut des ingénieurs électriciens et électroniciens (IEEE) est convaincu que le développement de l'IA et des systèmes d'automatisation doit "être cohérent avec le plein respect et le respect des valeurs morales humaines et des principes éthiques".
L'institut a présenté ses idées sous la forme d'un document de 136 pages intitulé «Ethically Aligned Design», qui est une sorte de «standard» pour la conception, la production et le développement de robots et d'intelligence artificielle. Le document a été élaboré avec l'aide de plus de 100 experts mondiaux dans le domaine de l'IA, du droit, de l'éthique, de la philosophie et de la politique. En d'autres termes, avec la participation des plus éminents universitaires, scientifiques et représentants du secteur gouvernemental.
«En fournissant aux experts et aux développeurs les meilleures pratiques pour la construction de produits, services et systèmes automatisés et intelligents qui respectent les principes humains éthiques établis, nous pouvons répondre à nos craintes concernant ces technologies et nous concentrer sur les avantages que ces technologies peuvent apporter à l'humanité. non seulement dans le futur, mais aujourd'hui », a déclaré Konstantinos Karachalios, directeur général de l'IEEE Standards Association, dans un communiqué.
L'IEEE note que l'initiative est complètement ouverte et qu'ils sont prêts à recevoir des propositions et des discussions sur des questions d'intérêt de la part des ingénieurs, des développeurs et des concepteurs de systèmes d'automatisation et de développement d'IA. Dans le même temps, ils sont prêts à mener un dialogue à part entière, car le retour d'information sur cette question est l'un des aspects les plus importants de l'élaboration des normes discutées.
En ce qui concerne les propositions décrites dans le document lui-même, elles incluent des considérations sur la méthodologie de recherche et développement; décrit les préoccupations concernant la création de «boîtes noires». En d'autres termes, le document met en garde l'industrie de l'IA et de l'automatisation contre le développement propriétaire.
Vidéo promotionelle:
D'un point de vue plus fondamental, ce que propose l'IEEE soulève à la fois plusieurs questions intéressantes, dont la plus importante est peut-être la suivante: la morale peut-elle être programmée? Est-il vraiment possible d'ajuster les technologies d'IA et d'automatisation aux «normes et valeurs humaines et sociales» auxquelles le document IEEE fait référence?
Cependant, l'IEEE insiste sur l'importance et la nécessité des normes. Après tout, grâce à eux, nous pourrons être sûrs que les gens ne souffriront pas à la fin lors de la création et du développement de nouvelles technologies.
«Les normes pourront fournir un contrôle industriel des technologies intelligentes et autonomes. Les systèmes intelligents deviennent de plus en plus complexes et, par conséquent, leur comportement non programmé peut devenir dangereux. Pour résoudre ce problème, une supervision de la procédure de développement de systèmes intelligents et autonomes est nécessaire."
«Les chercheurs et développeurs impliqués dans le développement et la mise en œuvre de systèmes autonomes et intelligents devront faire face à un ensemble plus progressif et complexe de mesures de conformité pour les questions de sécurité morale et technique. Par conséquent, ils devront aborder leur travail de manière plus responsable ».
Si vous regardez la situation dans son ensemble, l'IEEE a franchi une étape très importante et même nécessaire vers «l'humanisation» des systèmes autonomes et intelligents.
NIKOLAY KHIZHNYAK
