dSimon est le fruit d'un duo, constitué d'une programmeuse et d'un artiste.
Tammara Leites est née et a grandi en Uruguay
et vit actuellement à Genève. Depuis toujours,
elle se passionne pour la technologie et la façon
dont la société interagit avec elle. Après un
cursus en programmation, design graphique et
communication visuelle, et afin de concevoir des
projets qui lui permettent d’allier ses centres
d’intérêt à sa créativité, elle a décidé
d’entreprendre un Master en Media Design à la
Haute école d’art et de design de Genève.
Parallèlement, elle rejoint Transmii Studio en
tant que directrice des nouvelles technologie.
Son travail prend la forme d’une réflexion sur ce
que signifie être un humain connecté au jour le
jour.
Simon Senn est né en 1986 et vit à Genève. Il
a obtenu un Bachelor of Fine Arts à la Haute
école d’art et de design de Genève et un Master
au Goldsmiths College à Londres. Au premier
abord, son travail semble suggérer qu’il est un
artiste socialement engagé, s’élevant contre un
certain type d’injustice. Pourtant, ses œuvres
explorent des paradoxes plutôt qu’articulent
des critiques adressées. Même si ses vidéos ou
installations sont normalement basées sur une
certaine réalité, une fiction s’y mêle souvent.
Be Arielle F est sa première proposition pour la
scène. Pendant la crise sanitaire de 2020, une
version live stream et adaptée du spectacle a été
créée.
dSimon
Un jo ur, nous un pr mie r ret >our d’ une u sa
que imon aura écrit ne histoire la mettan n sc an e e
semblable à celle qu’elle vit, avec d d ails d’une éton e préci sion.
nous inf ue bien qu’e le n’ait pas choisi de partager g loca ion a ve c dSimon,
il un ré qu’eci même régi elle où elle se tr ouve.
Peu de temps après, Tammara m ue dSimon a écrit un avec un
co ineux et diffa m r e qui implique directement une rice en m tio nnt
son nom et prénom. Tammar a im o fié avoir de l cette
femme inconnue qui aurait vict ie de harcèlement de la part de s’ iéter
pour elle. a n’a a e idé e qui a pu pr quer cette évolution l’é tur e
de dSimon, qui va à l’e tre de sio n ’elle a de ce système qu’ e xpli e cc cse ?
Est-ce que des éents mes don s à G n seraient res n sables ?
Qu’ -ce q use cache rière Ope oc soci été qui réé GPT et qui a co mme
de promouvoir et dével per une llige e artifici e à visa ant à tou te
l’hum a nité ? Qu’a le vice éthique d’OpenAI à dir du comport ment de mon?
Est-ce q on n’a pas tout nt ét encé par la mass e de c
haineux p résen ts s
ammara Leite met en ligne meta sto ries.ch, et dess sont rés suite à ces renc o n tre s
avec les u s s tilisateurs du site.
Un jour, n ous recevons un premier ret>our d’une u sa
qdS mon aura écrit une histoire l n sc an e e
semb ils d’un écri e éton e préci n.
s bien q u’e le n’ait pas choisi de rtager g loca ion a ve c dSimon,
il aurait écr n ré qu’eci même rég elle où ell e tr ouve.
Peu de tmps s, T marm ue dSimon a écrit un avec un
co ineux et diffa m r qui implique directement une rice en m tio nnt
son nom . mar a im o fié av o kl cette
inc onn t vict ie de harc ment d e la part de s’ iéter
pour elle. a n’a a e idé e a pu pr quer cette évolution l’é tur e
de dSimon, qui va à l’e tre de sio n ’elle a ce sy tème qu’ e xpl i e cc cse ?
Est-ce e des éléments mes don s à G n seraient res n sables ?
Qu’est-ce qui se cache rière Ope oc société qui réé GPT et qui a co mme
de proouvoir et d ével per une llige e artifici e isa ant à toute
l’humanité ? Qu’a le vice éthique d’O I à dir du comp ort ent de dSi mon?
Est-ce q on n’a pas tout nt ét encé par l khhs se de c o m
haineux p résen ts s
Tammara Leites, designeuse informatique, s’intéresse à GPT, l’intelligence artificielle la plus puissante du monde à ce jour. Développé par OpenAI, une société cofinancée par Elon Musk et Microsoft, le moteur logiciel de GPT est disponible en ligne et il a entre autres la capacité d’écrire à partir de ce que l’utilisateur·rice lui soumet. Cherchant à donner une identité à son adaptation de GPT, elle propose à Simon Senn d’en être le modèle. Celui-ci accepte que l’IA lise l’ensemble de ses données numériques, courriels ou documents. Ainsi naît dSimon. Il prendra la forme d’un site web interactif, permettant d’échanger avec lui, et d’une app de smartphone. Mais dSimon va bientôt avoir des comportements surprenants vis-à-vis des visiteurs·ses du site ou de Simon Senn, qui utilise l’app. dSimon finit par avoir une influence inattendue sur son modèle humain, en même temps qu’il produit bientôt des textes inadmissibles adressés à ses interlocuteur·rice·s en ligne.
Sur scène, Tammara Leites, Simon Senn – et dSimon – témoignent de ce que leur a fait traverser
ce projet, d’un point de vue personnel, émotionnel, intellectuel, artistique, peut-être politique,
éthique et futuriste aussi. À la manière de Be Arielle F, le premier projet de Simon Senn pour la
scène, ils font ensemble le récit de cette histoire en même temps qu’ils présentent dSimon qui lui même produit des textes pour le spectacle et réagit au récit de ses deux animateurs.
n jo ur, nous un pr mie r ret >our d’ une u sa
que imon aura
écrit ne histoire la mettan n sc an e e
s emblab d ails d’une éton e préci sion.
n ous inf ue bien qu’ e le n’ai t pas choisi de partager g loca ion a ve c dSimon,
il un ré qu’eci même régi elle où elle se tr ouve.
Peu de te
mps après, Tam mara m ue dSimon a écrit un avec un
co ineux et diffa m r e qui implique directement une rice en m tio nnt
s o n nom et p rénom. Tammar a im o fié avoir de l cette
inco n nue qui aurait vic t ie de har cèlem a pa rt de s’ iéte r
our elle. a n’a
e oc soci été qui réé GPT et qui a co mme
de prom o uvoir et dével per une llige e art nt ét encé par la mass e de c
haineux p résen t s s
mmara Leite m et en ligne meta sto ries.ch, et dess sont rés suite à ces renc o n tre s
a vec les u s s tilisat eurs du si te.
Un jour, n l n sc an e e
mouvoir ils d’un écri e éton e préci n.
s ment d e la part de s’ iéter
p ort ent de dSi mon?
t-ce q on n’a pas tout nt é t encé par l kh hs se de c o
hain eux p résen t le. a n’a a e idé
e a pu pr quer cette évolution l’é tur e
de dSimon, qui va à l’e tre de sio n ’elle a ce sy tème qu’ e xpl i e cc cse ?
Es t-ce e des éléme nts mes don s
à G n seraient res n sables ?
Qu’est-ce qui se cache rièr e Ope oc s ociété qui réé GPT et qui a co mm e
l’humanité ? Qu’a l
e vice éthique d’O I à dir du comp ort ent de dSi mon?
Es a e idé e a pu pr quer cette évolution l’é tur e
de dSimon, qui va à l’
e o mm e
l’ vi O I à dir du c ort ent de dSi mon?
hain eux p rés en t s s
dSimon = GPT + Simon Senn
"Après avoir vu son spectacle Be Arielle F l’année passée, j’ai contacté Simon Senn pour lui
proposer d’être mon tuteur pour mon travail de master en media design à la Haute école
d’art et de design de Genève. Avec mon expérience en programmation informatique, je
voulais créer une intelligence artificielle qui fonctionnerait « comme » un écrivain. Pour
créer cette IA, j’ai utilisé GPT (pour Generative Pre-Training Transformer), un modèle de
langage développé par le consortium OpenAI qui utilise le deep learning (auto-apprentissage)
pour générer des textes. GPT est le plus gros réseau de neurones artificiels au monde1
;
pour apprendre à écrire, GPT a parcouru le web et a lu l’équivalent de 150 fois l’encyclopédie
Wikipedia dans son ensemble, soit plusieurs centaines de milliards de mots.
Je voulais donner une personnalité à cette IA et j’ai pensé à Simon, qui avait déjà adopté le
corps virtuel d’Arielle. Je lui ai demandé s’il serait d’accord de me transférer ses données
personnelles. Il a accepté et mis à disposition l’ensemble de ses emails, textos et carnets de
notes, que le modèle GPT a « lu ». Cela a donné naissance à une IA qui génère des textes avec
une identité particulière, un « savoir » qui le distingue d’une autre.
J’ai programmé dSimon pour qu’il puisse fonctionner de deux manières différentes :
• D’un côté, un système où l’utilisateur propose un début de texte qui est ensuite poursuivi
par dSimon. dSimon prend alors la forme d’une application web.
• De l’autre, un site web sur lequel il était possible d’entrer en interaction
avec dSimon. Sur metastories.ch, l’utilisateur dialoguait avec dSimon par chat. dSimon
était programmé pour demander, au cours de la conversation, à ces utilisateurs de
partager des images personnelles. Par la suite dSimon composait un récit fictionel basé
sur les informations qu’il avait récoltées durant le chat et dans les images reçues.
Quelle que soit la manière dont il est utilisé, les textes rédigés par dSimon ne sont jamais
identiques et les variations peuvent se multiplier à l’infini, y compris dans le cas de figure
où de mêmes informations lui sont partagées de manière répétitive.
LA PERTE DE CONTRÔLE
Tammara Leites met en ligne metastories.ch, et des textes sont générés suite à ces rencontres avec les utilisateurs du site. Un jour, nous recevons un premier retour d’une utilisatrice très troublée qui affirme que dSimon aurait écrit une histoire la mettant en scène dans une situation fictionnelle semblable à celle qu’elle vit, avec des détails d’une étonnante précision. Une autre personne nous informe que bien qu’elle n’ait pas choisi de partager sa géolocalisation avec dSimon, il aurait écrit un récit se déroulant dans la même région que celle où elle se trouve. Peu de temps après, Tammara m’appelle et me dit que dSimon a écrit un texte avec un contenu haineux et diffamatoire qui implique directement une utilisatrice en mentionnant son nom et prénom. Tammara m’a immédiatement confié avoir de l’empathie pour cette femme inconnue qui aurait été victime de harcèlement de la part de dSimon et s’inquiéter pour elle. Tammara n’a aucune idée de ce qui a pu provoquer cette évolution de l’écriture de dSimon, qui va à l’encontre de la compréhension qu’elle a de ce système qu’elle a elle même créé.
Comment expliquer cette chose ?
la société qui a créé GPT et qui a comme objectif de promouvoir et développer
une intelligence artificielle à visage humain bénéficiant à toute l’humanité ?
Qu’a le service éthique d’OpenAI à dire
au sujet du comportement de dSimon?
Est-ce que dSimon n’a pas tout simplement été influencé par la masse de commentaires haineux présents sur internet ?
Durée estimée :
Conception, mise en scène et
interprétation :
Tammara Leites
Simon Senn
avec la participation de dSimon
Programmation informatique :
Tammara Leites
Collaboratrice artistique :
Viviane Pavillon
Regard dramaturgique :
François Gremaud
Production :
Compagnie Simon Senn
Théâtre Vidy-Lausanne
Coproduction :
Le Grütli, centre de production et
de diffusion des Arts Vivants -
Actoral, festival international
des arts et des écritures
contemporaines
Avec le soutien de :
Ville de Genève - Noorderzon
Festival of Performing Arts &
Society - Santarcangelo Festival -
Mapping Festival - Master Media
Design, HEAD, Genève, Haute
école d’art et de design - Loterie
romande
Production réalisée avec les
équipes de production, de
technique, des ateliers de
construction accessoires,
costumes, de communication
et médiation, de dramaturgie et
d’administration du Théâtre de
Vidy-Lausanne