Lors de la résidence Te Ataata à l’Université d’Aukland AUT, nous avons travaille sur un texte pour une charte d’utilisation des Intelligence Artificielles Générative en école d’art :

Voici sa traduction :

Charte d’utilisation de l’intelligence artificielle générative dans une école d’art

L’intelligence artificielle (IA) générative représente une avancée technologique majeure dans le domaine de la création artistique. Cependant, son utilisation soulève également d’importantes questions éthiques et artistiques. Cette charte vise à établir des principes directeurs pour une utilisation responsable et éthique de l’IA générative dans le contexte des écoles d’art.

. Créativité et collaboration humaine

L’IA générative est un outil puissant qui peut stimuler la créativité. Cependant, nous croyons fermement que la créativité humaine et l’expression artistique sont des éléments essentiels de tout processus créatif. Par conséquent, nous encourageons les artistes à travailler en collaboration avec l’IA générative plutôt que de se remplacer entièrement. L’IA générative doit être considérée comme un partenaire créatif, jamais comme un substitut à l’artiste lui-même.

. Transparence et attribution

Lorsqu’on utilise l’IA générative pour créer des œuvres d’art, il est crucial de reconnaître la contribution de l’algorithme. Les étudiants et les enseignants doivent comprendre le fonctionnement des systèmes d’IA générative et leurs limites. L’utilisation de l’IA doit être transparente et tout élément généré par l’IA dans le travail des étudiants doit être clairement identifié. Les artistes doivent clairement indiquer que l’IA générative a été utilisée et préciser dans quelle mesure elle a contribué au processus créatif. La transparence contribue à préserver l’intégrité artistique et reconnaît le rôle de l’IA générative en tant qu’outil créatif.

. Responsabilité et éthique

L’utilisation de l’IA générative doit être réalisée de manière responsable et éthique. Les artistes doivent considérer les conséquences de leurs créations, notamment les questions de représentation, de biais algorithmiques et d’impact sociétal. Il est essentiel de garantir que l’utilisation de l’IA générative ne perpétue pas les inégalités ni ne porte préjudice à des groupes ou à des individus.

Il est important de reconnaître que les systèmes d’IA générative sont formés sur de grandes quantités de données Internet, principalement des images et du texte, qui reflètent les cultures et les points de vue de leurs créateurs et collectionneurs. Ces données ne sont pas neutres et surreprésentent souvent les perceptions et esthétiques dominantes occidentales, blanches, masculines, de la classe moyenne, handicapées, hétérosexuelles et autres. Les éléments présents dans les données de formation, comme la publicité, les livres, les films et les œuvres d’art, absorbent et propagent les préjugés culturels autour de questions telles que la race, le sexe, les capacités, l’âge et d’autres attributs. En conséquence, l’IA générative a le potentiel de reproduire, d’amplifier ou de ne pas représenter involontairement la pleine diversité de l’expérience humaine. Les étudiants et les enseignants des écoles d’art doivent être conscients que les outils génératifs présentent des angles morts et des limites inhérents en raison de leur formation sur des ensembles de données restreints. Lors de l’utilisation de l’IA générative, ses préjugés culturels doivent être compris et atténués dans la mesure du possible. Des données de formation diversifiées et inclusives, reflétant plus pleinement la richesse des expériences de vie humaine dans le monde, contribueraient à résoudre ces problèmes au fil du temps.

L’utilisation de l’IA générative ne doit pas porter atteinte aux droits d’auteur ou à la propriété intellectuelle d’autres artistes. Les artistes doivent garantir le respect des lois applicables et obtenir les autorisations nécessaires lorsque l’utilisation de l’IA générative implique des éléments protégés par le droit d’auteur.

En résumé :

1. Indiquez l’utilisation de l’IA dans le processus.
2. Prévenir les préjugés et biais et les identifier autant que possible.
3. Expliquer le fonctionnement de ces logiciels aux personnes non expertes qui regardent ces images.
4. Connaître les techniques qui auraient permis de réaliser cette image sans l’aide de l’IA.

Et la Version originale :

Charter for the Use of Generative Artificial Intelligence in an Art School

Generative artificial intelligence (AI) represents a major technological advancement in the field of artistic creation. However, its use also raises important ethical and artistic questions. This charter aims to establish guiding principles for the responsible and ethical use of generative AI within art school context.

. Creativity and Human Collaboration

Generative AI is a powerful tool that can stimulate artists’ creativity. However, we firmly believe that human creativity and artistic expression are essential elements of any creative process. Therefore, we encourage artists to work in collaboration with generative AI rather than replacing themselves entirely. Generative AI should be seen as a creative partner, never as a substitute for the artist themselves.

. Transparency and Attribution

When using generative AI to create artworks, it is crucial to acknowledge the contribution of the algorithm. Students and teachers should understand how generative AI systems work and their limitations. The use of AI should be transparent and any AI-generated elements in student work should be clearly identified. Artists must clearly indicate that generative AI was used and specify to what extent it contributed to the creative process. Transparency helps preserve artistic integrity and recognizes the role of generative AI as a creative tool.

. Responsibility and Ethics

The use of generative AI must be carried out in a responsible and ethical manner. Artists should consider the consequences of their creations, including issues of representation, algorithmic bias, and societal impact. It is essential to ensure that the use of generative AI does not perpetuate inequalities or harm groups or individuals.

It is important to recognize that generative AI systems are trained on vast amounts of internet data, primarily images and text, which reflect the cultures and viewpoints of their creators and collectors. This data is not neutral and often over-represents Western, white, male, middle-class, abled, heterosexual and other dominant perceptions and aesthetics. Features in the training data like advertising, books, films and art works absorb and propagate cultural biases around issues like race, gender, ability, age and other attributes. As a result, generative AI has the potential to unintentionally reproduce, amplify or fail to represent the full diversity of human experience. Art school students and teachers must be aware that generative tools have built-in blind spots and limitations due to being trained on narrow datasets. When utilizing generative AI, its cultural biases should be understood and mitigated where possible. Diverse, inclusive training data that reflects more fully the richness of human life experiences worldwide would help address these issues over time.

The use of generative AI must not infringe upon the copyrights or intellectual property of other artists. Artists must ensure compliance with applicable laws and obtain necessary permissions when the use of generative AI involves copyrighted elements.

MEMO 

1. Indicate the use of AI in the process.
2. Preventing biases, and identifying them as much as possible.
3. Explaining how these software works to non-expert people who look at these images.
4. Knowing the techniques that would have allowed realizing this image without the help of AI.