Artificial Intelligence fake photos, the biggest challenge of social networks
2023-04-16 14:46:01
TiranaPost
By Parmy Olson/ On Tuesday, a popular Twitter user from Paris posted 3 images of French President Emmanuel Macron running between police and protesters, surrounded by smoke. The images, which were viewed more than 3 million times in a few hours, were fake.
But for anyone not following the rapid development of Artificial Intelligence in the field of image generation, this was not so clear. With no accompanying text, some people believed those images were real.
A colleague of mine told me of at least two friends of his in London, engaged in various jobs, who were shocked by the photos and thought they were actually from the violent protests against pension reform that took place this week in France.
One of them even shared the photos in a group chat, before being told it was fake.
Social networks have been preparing for this moment for years. They have long warned about fake videos, and know that anyone with editing software can manipulate the image of politicians, placing them in highly controversial fake photos.
But the sensational developments of recent months in the image generation sector, powered by so-called generative AI models, put platforms such as Twitter, Facebook and TikTok in unprecedented territory.
Ajo që dikur mund të kërkonte 30 minuta ose 1 orë për t’u krijuar një softuer si Photoshop, tani mund të zgjasë rreth 5 minuta ose më pak me një aplikacion si “Midjourney” (falas për 25 imazhet e para) ose “Stable Diffusion” (tërësisht falas).
Të dyja këto mjete nuk kanë kufizime në gjenerimin e imazheve të figurave të famshme.
Vitin e kaluar unë përdora “Stable Diffusion” në një përpjekje për të krijuar “foto” të DonaldTrump duke luajtur golf me Kim Jung Un të Koresë së Veriut, asnjëra prej të cilave nuk dukej veçanërisht bindëse.
Por 6 muaj që nga ajo kohë, gjeneruesit e imazheve kanë bërë një hap të madha përpara. Versioni i fundit i ”Midjourney”, mund të prodhojë fotografi që janë shumë të vështira për t’u dalluar nga realiteti. Personi që kishte bërë postimin e famshëm, ma konfirmoi se grupi i tij kishte përdorur pikërisht “Midjourney” për imazhet ku shfaqej Makron.
Kur i pyeta pse nuk e përmendën këtë fakt, më thanë se kushdo mund të bëjë këtë duke e zmadhuar foton, dhe lexuar komentet për të kuptuar që këto imazhe nuk janë reale. Ata qëndruan të patundur në qëndrimin e tyre, edhe kur u thashë se disa njerëz kishin rënë viktimë e këtyre imazheve.
“Ne e dimë se këto imazhe nuk janë reale për shkak të shumë defekteve”– shtuan ata, përpara se të më dërgonin pamjet e zmadhuara të tyre. Kur pyeta për pakicën e njerëzve që nuk arrijnë të shohin detaje të tilla, sidomos në ekranin e vogël të celularit, nuk më dhanë asnjëpërgjigje.
Eliot Higins, bashkëthemeluesi i grupit të gazetarisë investigative Bellingcat, mbajti një qëndrim të ngjashëm kur postoi në Tëiter imazhe të rreme të hënën të arrestimit të DonaldTrump, duke i hedhur poshtë pritshmëritë e përhapura për ndalimin e vërtetë të tij.
Imazhet u panë më shumë se 5 milionë herë dhe poshhtë tyre nuk pati asnjë shënim. Higinstha më pas se ishte ndaluar të përdorte “Midjourney”. Ndërsa përdoruesit më inteligjentë tëTwitter kanë vënë në dukje duart e shtrembëruara dhe fytyrat e dyshimta të fotove të krijuara nga AI, shumë përdorues të zakonshëm janë ende të prekshëm ndaj këtij lloj falsifikimi.
Tetorin e vitit të kaluar, përdoruesit e WhatsApp në Brazil ranë pre e një vale dezinformatashnë lidhje me integritetin e zgjedhjeve të tyre presidenciale, duke çuar shumë në trazira në mbështetje të ish-presidentit Zhair Bolsonaro. Është shumë më e vështirë të dallosh falsifikimet kur dikush të cilit i beson, sapo ka ndarë një imazh në kulmin e ciklit të lajmeve, në një ekran të vogël.
Dhe si një aplikacion mesazhesh plotësisht i koduar, WhatsApp mund të bëjë pak për të kontrolluar imazhet e rreme që bëhen virale përmes ndarjes së vazhdueshme midis miqve, familjeve dhe grupeve. Higins dhe grupi i tij po përpiqeshin të krijonin një truk, por suksesi i tyre për t’i bërë njerëzit të besonin se postimet e tyre ishin reale, ilustron shkallën e një sfide të afërt për mediat sociale dhe më gjerësisht për shoqërinë.
TikTok përditësoi të martën udhëzimet e tij për t’i penguar të mashtrojnë përdoruesit mediat e krijuara nga AI. Rregullorja e Twitter për mediat dixhitale, e përditësuar për herë të fundit në vitin 2020, thotë se përdoruesit nuk duhet të ndajnë imazhe të rreme që mund të mashtrojnë njerëzit.
Kur e pyeta këtë platformë se pse nuk i kishte etiketuar imazhet e rreme të Trump dhe Makron kur u bënë virale, kompania e drejtuar nga Elon Musk u përgjigj me një emoji, përgjigja e re e saj automatike për mediat.
Meta Platforms Inc. deklaroi në vitin 2020 se do të hiqte plotësisht mediat e krijuara nga AI që synojnë të mashtrojnë njerëzit, por kompania nuk kishte hequr asnjë një imazh të “arrestimit të Trump” të postuar si lajm të vërtetë nga një përdorues i Facebook të mërkurën. Kompania nuk iu përgjigj kërkesës time për një koment.
Është e qartë se pasi të popullarizohen aplikacionet gjeneruese të AI si “Midjourney” dhe “ChatGPT , për njerëzit do të bëhet më e vështirë që të dallojnë falsifikimet nga realiteti.Themeluesi i një prej këtyre mjeteve më tha vitin e kaluar se përgjigja për këtë problem ishte e thjeshtë:Duhet të përshtatemi.
I now find myself looking at real photos of politicians on social media, half of which I wonder if they are fake or not. AI tools will make many of us skeptical. While those who are more easily persuaded, they may instigate a new crisis of disinformation.
Originally published on Bota.al
