Midjourney, een platform voor het maken van afbeeldingen dat kunstmatige intelligentie gebruikt om unieke en gepersonaliseerde illustraties te genereren, had zijn testversie op Discord opgeschort. De reden voor het sluiten van de open editie was na een reeks geproduceerde deepfakes. Begrijpen!
Beeld paus Franciscus
Bekijk meer
Alert: DEZE giftige plant heeft een jonge man in het ziekenhuis gebracht
Google ontwikkelt AI-tool om journalisten te helpen bij…
Kunstmatige intelligentie kan bizarre beelden genereren. Onder hen is een foto van paus Franciscus die een lange witte pufferjas draagt, samen met zijn traditionele zucchetto en een kruisbeeld op zijn borst. Daarnaast circuleert er nog een afbeelding op internet van de leider van de katholieke kerk die een pistool vasthoudt.
Afgelopen dinsdag (28) kondigde de CEO en oprichter van Midjourney, David Holz, de wijziging aan, maar bevestigde de reden niet, daarbij alleen verwijzend naar "buitengewone vraag en misbruik bij tests", aldus de De Washington Post.
Gratis versie van Midjourney opgeschort
Midjourney stond open voor iedereen op Discord, met gratis toegang tot 25 generaties gratis afbeeldingen voordat je een abonnement startte. Het basisplan biedt tot 200 beeldgeneraties voor US$ 8 (R$ 41) per maand, een betaalbare prijs als je rekening houdt met de mogelijkheden van de tool.
Experts waarschuwden al voor het potentiële risico dat AI desinformatie produceert, nog voordat het werd gelanceerd. Destijds verdedigde Holz dat vervalsingen gemakkelijk te detecteren waren, "je kunt hem nu niet dwingen om een deepfake te doen", zei de directeur van de De rand.
Nadat het onafhankelijke laboratorium op 15 maart versie 5 van de tool had gelanceerd, werden echter verschillende verbeteringen aangebracht aan de kwaliteit van de afbeeldingen, wat de verspreiding van deepfakes ten goede kwam.
Deepfakes zijn vervalsingen vingerafdrukken zeer realistische afbeeldingen van visuele of audio-inhoud die zijn gemanipuleerd met behulp van algoritmen Kunstmatige intelligentie (KI). Deepfakes kunnen worden gebruikt om nepvideo's, afbeeldingen of audio-opnamen te maken die er echt uitzien en waarin vaak echte mensen dingen zeggen of doen die ze nooit hebben gedaan.
Liefhebber van films en series en alles wat met cinema te maken heeft. Een actieve nieuwsgierigheid op de netwerken, altijd verbonden met informatie over internet.
