Grok stops making bikini photos. "Sexualized images" pretext to censor Grok and X?
Der Bikini-Trend auf Grok hat ein paar interessante Fragen aufgeworfen. Wer ist für das Generieren von Bikini-Deepfakes verantwortlich, die KI oder die User, der die Fotos ohne Zustimmung der dargestellten Personen erstellen und dann im Internet verbreiten?
Früher konnte man Deepfakes auch mit Photoshop erstellen, trotzdem ist zum Glück (noch) niemand auf die Idee gekommen, dass Photoshop das Bearbeiten von Fotos mit Hilfe von KI-Scannern unterbindet, sondern die Benutzer waren bis jetzt immer letztverantwortlich.
Dieser Ansatz scheint sich mit KIs zu drehen. Tech-Firmen entscheiden zunehmend, wofür man die KIs überhaupt verwenden darf, was erlaubt und verboten ist, selbst bei Open-Source KIs wie Stable Diffusion gab es massive Einschränkungen, wofür man die KI verwenden durfte, was unüblich bei Open-Source ist.
Letztendlich geht es auch um Freiheit und Selbstbestimmung. Wenn die KIs in Zukunft sämtliche Dokumente, Fotos und E-Mails auf den PCs nach illegalen und anstößigen Inhalten scannen, werden wir uns bald in einer Black-Mirror-Dystopie wiederfinden.
Was sagt ihr dazu? Denkt ihr, dass KIs in der jetzigen Form eher Tools sind, und die Verantwortung daher eher bei den Benutzern und nicht bei den KI-Plattformen liegen sollte? Wie könnte man das Erstellen und Verbreiten von illegalen Deepfakes verhindern? Was ist schlimmer, Deepfakes oder Over-Blocking/Zensur?
https://x.com/ednewtonrex/status/2011227080416182283
https://x.com/lawandnation/status/2006937890149024019
https://x.com/sanket/status/2007115000280973741
UK to ban X and Grok over bikini photos?
https://x.com/MarioNawfal/status/2009404482589770070
With smart prompt engineering also other public AIs can create bikini photos
https://x.com/BasilTheGreat/status/2009684469188546967
English
The bikini trend on Grok has raised some interesting questions. Who is responsible for generating bikini deepfakes, the AI or the users who create and upload the photos without the consent of the people depicted and then distribute them on social media?
In the past, deepfakes could also be created with Photoshop, but fortunately, no one has (yet) come up with the idea of Photoshop itself preventing the editing of photos with the help of AI scanners, instead, users have always been ultimately responsible for what the create.
This approach seems to be changing with AI. Tech companies are increasingly deciding what AI can be used for, what is allowed and not allowed. Even with open-source AI such as Stable Diffusion, there have been massive restrictions on what the AI can be used for, which is unusual for open-source.
Ultimately, it's also about freedom and self-determination. If, in the future, AI scans all documents, photos, and emails on PCs for illegal and offensive content, we will soon find ourselves in a Black Mirror-like dystopia.
What do you think? Do you think that AI in its current form is more of a tool, and that responsibility should therefore lie with users rather than AI platforms? How could the creation and distribution of illegal deepfakes be prevented? Which is worse, deepfakes or increasing over-blocking/censorship?
Warum wird eigentlich die Prüderei immer schlimmer? Weil die Menschen zunehmend wie Kinder behandelt werden und damit entmündigt?
Wer hat eigentlich festgelegt, dass ein Bikini etwas mit Sex zu tun hat? Waren die Leute noch nie an einem Strand? "Sexualisiert"? Im Ernst?
Ja da wird wieder Gut uebertrieben und wie eh und je ist natuerlich der Mensch Selbstverantwortlich zu machen.
Das ein paar Deppen alle anderen damit zur Zwangsjacke bringen ist mir ein Dorn im Auge.
Deswegen baue ich auch mein Zeug selbst daheim zusammen inzwischen. Da koennen die mich mal mit ihren Bevormundungen gerne haben. :-)
LG
Sascha
Die Werkzeuge sind eigentlich nie das böse, sondern das was damit gemacht wird. Ein Hammer kann man wunderbar benutzen, um Nägel einzuschlagen, man kann aber auch andere Menschen damit töten und verletzen.
Genauso sollte es eigentlich in einer freien Welt mit KI sein. Verantwortlich ist immer der, der vor der Kiste sitzt und das zum Guten oder zum Bösen nutzt.
Aber das Problem ist natürlich, dass die Skills heute wesentlich geringer sind, die man braucht um Böses zu machen. Das müssen wir sicherlich regeln.
Wie man sowas regelt, durch Zensur oder rechtliche Aspekte, weiß ich auch nicht. Am einfachsten wäre es natürlich, wenn alle Menschen gut und vernünftig wären, das wird aber wahrscheinlich leider nie so sein.
That's exactly what happened. The biggest disadvantage of this software is that the videos are made in such a way that it becomes difficult to recognize the real video later, and this will only make things worse in the future.
I reckon governments will do deep fakes to accuse and jail people they don't like, but the issues are bikinis... As always ai is a tool, the problem is how is used
For me the distribution of illegal deepfakes can be prevented if there are stricter laws against it and if it is being implemented by the authorities
Bei der Verantwortung ist meines Erachtens bisschen abzuwägen. Wenn die KI es den Nutzern aber so leicht macht und die Lösung vermutlich auch nicht zu schwierig sein dürfte, sehe ich die Verantwortung aber klar bei der KI-Plattform. Wobei die nicht anstelle sondern neben der Verantwortung der Nutzer steht.
Die Werkzeuge sind eigentlich nie das böse, sondern das was damit gemacht wird. Ein Hammer kann man wunderbar benutzen, um Nägel einzuschlagen, man kann aber auch andere Menschen damit töten und verletzen.
Genauso sollte es eigentlich in einer freien Welt mit KI sein. Verantwortlich ist immer der, der vor der Kiste sitzt und das zum Guten oder zum Bösen nutzt.
Aber das Problem ist natürlich, dass die Skills heute wesentlich geringer sind, die man braucht um Böses zu machen. Das müssen wir sicherlich regeln.
Wie man sowas regelt, durch Zensur oder rechtliche Aspekte, weiß ich auch nicht. Am einfachsten wäre es natürlich, wenn alle Menschen gut und vernünftig wären, das wird aber wahrscheinlich leider nie so sein.
It is a good move from Elon Musk to disable that feature in Grok
!BBH
It’s scary how AI can be misused, and it’s hard to say where the responsibility should lie, with users or the companies.