KI-Dystopie

[u/Past_Perception_1359]

So und jetzt reicht es mir nämlich. Ich bin auf Reddit eher so stille Beobachterin aber jetzt muss ich einfach mal ranten.

Kurz zu mir: ich habe einen Bachelor in Design und bin auch sonst ein kreativer Mensch und hege daher schon von Grund auf großen Groll gegen KI. Anfangs fand ich noch, es sei einfach ein cooles Tool um ungewollte Dinge schneller aus Bildern rauszuphotoshoppen. So langsam (bzw. schnell) platzt mir zu dem ganzen Thema aber nun wirklich sowas von der Kragen.

Abgesehen davon, dass ich es nicht auszuhalten finde, dass nichts mehr echt ist. Kein Plakat vor Restaurants/Imbissen mit Essen, keine Menschen in Prospekten und Werbungen, nichts. NICHTS ist mehr real, alles fühlt sich Fake an. Wenn ich ein beeindruckendes Reel auf Instagram sehe, frage ich mich erst ob es ein echtes Video oder KI-Generierter Müll ist. Ich kann wirklich nichts mehr genießen, ohne mit diesem blöden Dreck konfrontiert zu werden.

So richtig angefangen mit meiner extremen Abneigung hatte es aber damit, dass ich seit meinem Bachelor-Abschluss letztes Jahr keinen Job mehr in meiner Branche gefunden habe, da nur Stellen frei werden, für die man 5-100 Jahre Erfahrung braucht, oder PflichtpraktikantIn ist. Mittlerweile einfach gar nichts mehr. Deshalb kämpfe ich mich seitdem im Einzelhandel durch. Vor kurzem habe ich in einem großen Möbelhaus in der Küchenabteilung angefangen und selbst da sitzt mir die KI-Psychose der Allgemeinheit im Nacken. Heute kam eine Frau und hatte sich informiert, ob sie denn zwei schmale Unterschränke haben könne, die Fronten habe sie sich auch schon ausgesucht. Ich versicherte ihr, dass das kein Problem sei und ich nur wissen müsste, welche Maße und Küchenfront sie haben möchte. Dann zückte sie ihr Handy und meinte, sie habe schon etwas vorgeplant. Zu sehen bekam ich eine KI-generierte Übersicht von ihrem Raum mit den zwei Schränkchen und daneben eine von der KI erstelle Einkaufsliste. Also packe ich ihr alle Artikel stumpf in den Warenkorb und drucke ihr die Liste aus. Gesamtpreis 246€.

Die Kundin bedankt sich und geht weiter, kommt dann aber nach 10 Sekunden zurück, zeigt mir nochmal ihre KI Übersicht und meinte: "gucken Sie mal ChatGPT hat mir aber gesagt das würde nur 178€ kosten"

Eine andere Kundin meinte gestern, sie habe durch ChatGPT herausgefunden, dass ein bestimmter Artikel 50% reduziert sei, aber im Internet auf der Website dazu nichts gefunden. Ich habe dann im System nachgesehen und auch nichts dazu gefunden. Das hatte sie dann erst enttäuscht akzeptiert, kam dann aber auch kurz darauf wieder und hat mir den Chatverlauf mit der KI gezeigt um mir zu beweisen, dass der Artikel ja eigentlich doch heruntergesetzt sein müsste, weil es steht ja dort.

JA UND DA HÖRT DER SPASS AUCH AUF. WAS soll ich jetzt machen? Was?? Was wollen die Leute hören??? "Ah ok wenn Ihre KI der Meinung ist, dann passe ich den Preis einfach an"? Verstehen die Menschen alle nicht, dass nicht alles stimmt was ihr ChatGPT ihnen da ausspuckt? Ich schwöre es, ich packe das alles nicht mehr. Die Menschheit verblödet so hart und wenn ich noch ein Mal höre, dass jemand sagt "ich hab mal chatty gefragt" dann vergesse ich mich.

[u/Wimi_Bussard]

Leute unterschätzen ein bisschen, wie weit sich KI mittlerweile integrieren lässt in Workflows.

Gerade im kreativen und programmiertechnischen Bereich lassen sich KI-Modelle nun recht gut via Harness und MCPs (Schnittstelle für KI-Modell und Software) einbinden. D.h. Du sagst der KI, die soll in Blender nen Modell für ne Lampe oder so erstellen und dann bekommst Du das. Oder in einer Spieleengine wie Godot und Du bekommst ein fertiges (okay, sagen wir "fertiges") Spiel raus. Natürlich ist das alles noch nicht perfekt, aber darum geht es nicht. Es geht darum, dass es NOCH nicht perfekt ist, aber JETZT bereits einigermaßen brauchbar ist. Und wer das nicht beherrscht, wird vermutlich von jemanden ausgebootet, der das kann.

Man sollte KI auf keinen Fall vermeiden, wenn es in der eigenen Branche eingesetzt wird. Möglichkeiten und aktuelle Grenzen lernen und verstehen und man ist der Konkurrenz um einiges voraus.

Aber ja, ich verstehe den Frust. Das Spiel wird gerade heftigst neu gemischt. Das ist eine Umstellung, kann aber auch eine Chance sein.

[u/The_Brogar → u/Wimi_Bussard]

Wie genau soll diese Chance aussehen? Ich lese das immer wieder, aber was genau ist die Chance für den Durchschnittsmensch? Ich habe KI seit 2022 durchgehend genutzt, konnte damit meine Produktivität steigern und sehe gleichzeitig, dass wir uns selbst schon kurzfristig obsolet machen; wer das nicht sieht, will es nicht sehen. Klar aktuell braucht man noch jemanden der Ergebnisse checkt - aber wie viele Leute brauchst du, um Ergebnisse zu checken? Und wie lange wird das noch so sein? Wann wird die KI keine Nachprüfung mehr benötigen oder realistischer, wann werden Unternehmen entscheiden, dass die Risiken eines ungeprüften Ergebnisses hinter den potentiellen Einsparungen zurückbleiben?

Das soll kein Angriff auf dich sein. Mir ist klar das man sich KI nicht verweigern kann. Aber ich sehe aktuell wirklich gar kein Potential dafür, dass KI etwas anderes erreichen wird, als aktuelle Vermögensverhältnisse zu verfestigen und sozialen Aufstieg unmöglich zu machen (nichts anderes wäre ein bedingungsloses Grundeinkommen - denn wenn es keine Jobs gibt, ist man schließlich auf das BGE angewiesen).

[u/Wimi_Bussard → u/The_Brogar]

Sehe das ähnlich wie Du, aber "Chance" in meinem Post war eher als kurzfristige Maßnahme zu verstehen. Zwischen "bedingungsloses Grundeinkommen, weil KI hat uns alle unsere Jobs weggenommen" und "ChatGPT hat mir ein Bild von einer Person mit 6 Fingern erstellt" gibts halt diese Übergangsphase und die möchte OP wohl überleben - optimalerweise in einem Beruf, was sie gelernt hat.

Einfach noch ein wenig Geld mitnehmen, wenn es möglich ist.

Ich finde das Thema aber allgemein interessant und könnte tbh ewig darüber reden. Wie Du schon andeutest, gibt es einfach so viele Umbrüche und angedeutete Konsequenzen in allen gesellschaftlichen und politischen Bereichen mit KI.

[u/Past_Perception_1359 → u/Wimi_Bussard]

Das checke ich auch komplett. Es ging mir eig auch häuptsächlich um den Umgang mit den Menschen, die offensichtlich sogar das eigene Denken der KI überlassen

[u/Wimi_Bussard → u/Past_Perception_1359]

Absolut. Ich empfinde es teilweise auch mehr als befremdlich, aber das kommt eben dabei raus, wenn die Leute nicht genau checken, was da genau passiert und wie es funktioniert.

Gerade das Beispiel mit den Sonderangeboten. Die KI halluziniert vllt. Oder hat ein abgelaufenes Angebot von vor 3 Monaten gefunden. Oder irgendetwas anderes. Die Leute müssten jetzt eigentlich sich an den Quellen entlanghangeln - WIE DAMALS BEIM NORMALEN GOOGLEN AUCH! - aber sie tun es nicht.

Viel Kraft und mein Beileid. Das wird nicht besser werden.

[u/Past_Perception_1359 → u/Wimi_Bussard]

Danke :/ Ich befürchte auch

[u/Stunning_Ride_220 → u/Past_Perception_1359]

Naja, das war auch schon vor dem KI-Hype so...je komplexer die Welt wird, je unsicherer die Welt wird, desto mehr scheinen sich Menschen darauf zu verlassen, dass ihnen jemand (oder etwas) sagt was richtig ist.

[u/KrakatauaMAN123 → u/Wimi_Bussard]

Komplett nutzlos. In einem Jahr wird das alles voll automatisiert sein. White collar berufe sind tot.

Das ist fast wie "prompt engineering" wo man sich sicher war, dass das der wichtige skill wird.

Verschwendet eure Zeit nicht und schaut lieber dass ihr in eine andere Berufsgruppe kommt die nicht direkt mit ki bearbeitet werden kann

[u/schnitzelklopfer159 → u/KrakatauaMAN123]

Eben, Opus 5.5 arbeitet jetzt schon mit "mach mal" besser als mit jedem hochgezüchteten prompt. Nicht auszudenken wo wir da in 5 Jahren stehen werden. Meinen Master in Wirtschaftsinformatik mache ich noch fertig, aber ob es in dem Bereich in 5 Jahren noch jobs gibt wage ich zu bezweifeln

[u/Wimi_Bussard → u/KrakatauaMAN123]

Ich meine ... vielleicht. Vllt. dauert es aber auch noch 5 Jahre - dann wäre es doof, da die Zeit gewastet zu haben. Ich sehe es eher als Anpassung an die neuen Umstände und ein work in progress, weil keiner gerade genau weiß, welche Versprechen erfüllt werden und welche "ganz sicher mit dem nächsten Patch kommen werden".

Die andere Berufsgruppe wären halt z.B. Handwerker. Die sind aber ja auch noch dran, sobald die Roboter anständig greifen und sich fortbewegen können. Bis dahin ist die KI sicherlich auch schon weiter. Also auch hier nur ein Spiel auf Zeit.

[u/BrotherAmazing6655 → u/Wimi_Bussard]

Was muss man denn da bei der KI "beherrschen", hm? "Chatgpt, erstelle mir eine Powerpoint zu Thema x" aka man muss die deutsche (oder eine andere) Sprache beherrschen? Ne KI zu bedienen lernt jeder Depp in 5 Minuten. Und genau deswegen redest zu Mist. Denn falls (und Betonung liegt auf "falls") die KI tatsächlich zeitnah diese ganzen Aufgaben so gut beherrscht, dann juckt es nicht, ob du nen Design Bachelor oder nen KI Bachelor hast, beide sind gleich überflüssig.

Und in der Zwischenzeit benutze ich lieber selber mein Gehirn zum denken. Gibt nämlich schon erste handfeste Untersuchungen, dass starke KI-Nutzung die geistigen Fähigkeiten schädigt.

[u/Whole-Application404 → u/Wimi_Bussard]

Ist halt alles Slop, den vernünftig denkende Menschen nicht akzeptieren sollten. Zumal bei "Kunst" ja nun wirklich alles moralisch als geklaut betrachtet werden darf, was die KI auskotzt.

[u/Wimi_Bussard → u/Whole-Application404]

Naja, es wird immer weniger Slop. Das ist der Punkt. "Slop" ist am Ende des Tages nur ein technisches Problem. Und technische Probleme werden mit der Zeit gelöst. Und wer das mitverfolgt, der sieht in Echtzeit, wie rasant sich das weiterentwickelt.

Und bzgl. Moral: Du beantwortest hier eine Frage, die sich der normale Durschnittsmensch s. oben Typus "ChatGPT sagt, hier gäbe es ein Angebot, also ist es so" nicht stellt. Das mag vielen nicht gefallen, aber es sollte zur Kenntnis genommen werden.

[u/Fluffhaze → u/Wimi_Bussard]

Nein Slop ist wenn du dir keine Mühe gibst, einfach ein prompt eingibst und dir die KI den Scheiss in 2 Sekunden ausspuckt. Ob das Ergebnis dann weniger Scheisse ist als vor 2 Jahren ist egal, es bleibt Slop.

[u/Whole-Application404 → u/Wimi_Bussard]

Wenn du etwas hinrotzt, dann ist es slop. Ja, das kann auch was handgemachtes sein, aber selbst da wäre das immer noch wertvoller, als das Produkt eines Prompts.

[u/Stunning_Ride_220 → u/Wimi_Bussard]

Naja, den Slop den die Frontier Labs mit ihren aufgebohrten Harnesses beseitigt haben, kann man eher als die ersten, einfachen 20% ansehen.

Determinismus zu erreichen (nein, Temperatur auf 0 setzen reicht da aus verschiedenen Gründen nicht) mag man da vllt. noch als ein technisches Problem sehen und fixen können.

Das viel größere Problem ist halt - wie die Frontier Labs ja auch selbst schon gesagt haben - das Alignment, wo noch immer nicht konzeptionell klar ist, wie man das erreichen kann.

Im Beispiel von OP kann der unterschiedliche Preis ggf. aus Nicht-Determinismus herrühren oder einfach nur "Specification Gaming" das LLMs sein.
Das Endergebnis ist in beiden Fällen halt etwas was manche Menschen als "Slop" bezeichnen würden.

Und das (Alignment) ist mal eben nicht so einfach technisch zu lösen, wird aber immer wieder auch Slop führen.

[u/Demokrit_Atom → u/Whole-Application404]

Weiß ja nicht, klar, gibt’s echt viel Schrott, und es geht mir auch auf den Sack, aber zu sagen, alles sei geklaut, ist auch falsch. Du und dein Denken definieren sich auch über das Gelernte, deine Erfahrungen und deine Erlebnisse. Wenn du ein Bild malst, ist es ein anderes Bild, ein anderer Stil, als wenn du vorher ein Jahr in China oder so gelebt hättest. Und ein KI-Modell arbeitet halt genau so: Es lernt von dem, was es bekommt, ob das Reddit ist oder die Kunstsammlung des Louvre. Basierend darauf arbeitet es, und von daher zu sagen, alles sei nur geklaut, wäre in meinen Augen die falsche Art, damit umzugehen.

[u/Fluffhaze → u/Demokrit_Atom]

Bruder Gen AI hat in der KUNST nichts verloren. Mach von mir aus deine Website oder App mit AI oder frag GPT was du morgen Essen sollst aber verpisst euch von Kunst.

[u/ThrowRADaikon → u/Fluffhaze]

KUNST kann auch menschlich bleiben. Faktisch will ein Großteil der Menschheit aber keine KUNST, sondern ein PRODUKT. Kunst ist zutiefst persönlich. Dein "persönlicher" Kram hat meist aber auch nur "persönlichen" Wert. KUNST ist kein Kommerzprodukt und genau das macht es zu KUNST. Das sind zwei komplett unterschiedliche Zwecke. Was man überwiegend findet, seit AI, sind aber Menschen, die sich beschweren, dass ihre "Kunst" an Bedeutung verliert. Diese Bedeutung hatte sie aber auch selten für die breite Masse auch vor AI nicht, weshalb viele "Künstler" eben vor und nach AI kein Geld verdient haben. Jetzt hat man nur eine bessere aber dennoch fadenscheinige ausrede dafür.

[u/RedNeck2333 → u/ThrowRADaikon]

Faktisch will ein Großteil der Menschheit aber keine KUNST, sondern ein PRODUKT.

exakt das trifft es.

[u/Fluffhaze → u/ThrowRADaikon]

Komplett dumm aber was soll man erwarten von AI Nucklern. Viel Spaß mit deiner Suno Musik lol

[u/ThrowRADaikon → u/Fluffhaze]

Ich sehe mein Argument, dass meines entkräftigt. Nur Ad Hominem und Behauptungen, die nicht wahr sind. Aber was soll man von jemandem erwarten, der rein emotional und null rational argumentiert.

Musik ist für mich übrigens tatsächlich Kunst, für die ich auch bereit bn zu zahlen. Nächstes Konzert steht am 9. Dezember an. Ist das 7. dieses Jahr.
Aber wir wollen jetzt nicht so tun als wäre "Rockstar" eine solide Karriere, die nun kommerziell erfolgreich den Lebensunterhalt von Millionen kreativschaffenden Menschen garantieren kann. Das sind rare Einzelfälle, wie Autoren oder Maler. Diejenigen, die eben "jemand sind". Fehlen aber offenbar ein paar Hirnzellen, um da den Unterschied zu Claudia mit ihrem mittelmäßigen Design-Bachelor zu sehen.

[u/RedNeck2333 → u/Fluffhaze]

ist das kunst oder kann das weg?

[u/Whole-Application404 → u/Demokrit_Atom]

Das ist zu einfach gedacht und einfach kein guter Vergleich. KI ist mit theoretisch mit allen Bildern, Büchern, Filmen, Reddit Posts gefüttert. Der Erfahrungsschatz eines Menschen ist in der Bandbreite so viel geringer, aber dann durch Erfahrung und wirkliches Wissen und Verstehen von Dingen aber wieder so sehr anders. Die KI kotzt nur aus, der Mensch hat beim Schaffen Emotionen etc.

[u/ThrowRADaikon → u/Whole-Application404]

Und jetzt mal eine Wahrheit, die niemand hier hören will: Im corporate bereich sind emotionen zu 99% scheißegal. Und das war auch vor AI bereits so. Oder möchtest du mir erzählen, dass ein Menudesigner vor AI sein herzblut ins erstellen einer Übersichtstafel der Produkte für eine Dönerbude gesteckt hat und für die lausigen euros, die er dafür bekommen konnte für 2 Tage methodacting-artig die Identität des Dönerbudenbesitzers angenommen hat, um auch wirklich auf den %-gehalt genau auch bloß den richtigen Grünton des Hintergrunds zu treffen, die seine lange Reise bis zur Eröffnung seiner eigenen Gastro auch wirklich perfekt repräsentiert. Emotionen sind in den meisten Fällen etwas fürs privatleben und haben nur dann "Wert", wenn man bereits wer "ist".
Das ist aber ein Punkt, an dem die meisten Menschen auch vor AI nie angekommen wären. Wenn es darum geht, mit seinem Handwerk geld zu verdienen, dann ging es immer nur um messbarkeit von resultaten. Und wenn du die schneller und effizienter als jemand anderes bringen konntest, dann hattest du die nase vorn. Diese fantasterei um "vor ai haben die Emotionen noch gezählt" ist so enormer bullshit, dass ich mir nicht vorstellen kann, dass jemand der davon spricht je mehr gemacht hat, als für nen fünfziger das plakat irgendeines lokalen Indie-Festivals designed zu haben. AI ist der selbe seelenlose rotz, den die kommerziellen designer raushauen. Inspiriert von anderen, kopiert aus templates. Nur deutlich schneller.