KI/AI Gefahr oder praktisches Hilfsmittel?

[Virus]

Hallo zusammen,
da das Thema geht gerade viel durch die Medien, deshalb wollte ich das Mal mit euch diskutieren. Ich dachte mir nach einer Unterhaltung mit @Schakara über mein Profilbild, welches Ki generiert ist: Es wäre echt Mal interessant eure Meinung zu diesem Thema zu hören.
Seht ihr es eher als praktisches Hilfsmittel im Alltag oder bereiten euch ChatGPT und Co auch schon sorgen?
Was für Arbeiten können uns KIs bald abnehmen?


Ich persönlich glaube, dass KIs uns gefährlich werden sobald wir nicht mehr verstehen was sie tun.
Seht ihr das ähnlich oder gleich oder habt ihr eine ganz andere Meinung.

Ich freue mich auf eine rege Diskussion mit euch.

 

[ben__]

Ich finde das KIs wie ChatGPT oder andere sehr hilfreich im Alltag sein können, man muss nur aufpassen das sie nicht "zu viel" verstehen und man sie nicht mehr deaktivieren kann, aber so wie sie gerade entwickelt sind können sie durchaus eine Hilfe sein.

 

[TheSupercomputer]

Ist wie bei jedem Werkzeug, wenn es falsch genutzt wird richtet es Schaden an.

 

[Virus]

Ich finde KIs werden wirklich richtig gefährlich, sobald wir Menschen nicht mehr kapieren was die KI tut.

 

[ThatsRight]

Der Fehler ist der Mensch.. (Meine Meinung)

Und ja, sehe es geteilt.. einerseits eine gute Sache, nur darf die KI einfach nicht zu viel können. Was dann wieder zu Problemen führt..

 

[Virus]

Der Fehler ist der Mensch.. (Meine Meinung)

Und ja, sehe es geteilt.. einerseits eine gute Sache, nur darf einfach nicht zu viel können. Was dann wieder zu Problemen führt..

Der Mensch entwickelt die KI ja auch. Und wenn der Mensch keine Fehler machen würde würde es glaube ich ein bisschen anders aussehen.

 

[Schakara]

Naja das Schreckensszenario ist ja quasi schon durch Terminator vorhergesagt ^^

Ist halt schwierig zu beurteilen ob das alles reine Science Fiction ist oder irgendwann zu einem Realitätsszenario werden könnte

Insbesondere, da KI sicherlich auch genutzt werden wird, um Schaden anzurichten, Stichwort Cyber War.

Ich glaube mal nicht, dass es mal Terminator T-800's geben wird, die mit einer Gatling Gun ballernd durch die Gegend laufen, aber naja.. Zukünftige Todesfälle durch bewusste KI Manipulation (in welcher Form auch immer) halte ich absolut nicht für unwahrscheinlich. Insbesondere, wenn mal so etwas passiert wie, dass KI eine andere KI schreibt oder sich selbst erweitert. Schwieriges Thema.

 

[Virus]

Eine KI könnte auch theoretisch mit Fake News Streit/Krieg heraufbeschworen oder wenn man ner KI die Kontolle über eine Social Media Plattform überlässt könnt sie Dinge falsch verstehen Beiträge löschen und so auch Streit heraufbeschworen.
Menschen nutzen KIs ja auch schon für kriminelle Zwecke. Zum Beispiel um sie eine Phishing-Mail schreiben zu lassen. Oder sie ein Bild für Fake News generieren zu lassen, welches so gut aussieht, dass man es nicht mehr von einem echten Foto unterscheiden kann.

 

[Schakara]

Ich glaube die so mitunter schlimmste KI die mir adhoc einfällt ist Emotet:

Ist im Endeffekt ein KI-Virus / Wurm, der quasi Outlook mitliest, über Monate lernt und dann eine Spearphishing Mail verschickt die genau so von der Person hätte stammen können und damit ganze Firmennetze infiziert / lahmlegt .. Oftmals ist der Virus schon Monate oder sogar Jahre zuvor aktiv und wartet, bis er irgendwann "den roten Knopf" drücken kann und alles auf einmal lahm legen kann, wenn auch schon zum Großteil die Backups etc infiziert sind..

 

[Hydrablades]

Oder sie ein Bild für Fake News generieren zu lassen, welches so gut aussieht, dass man es nicht mehr von einem echten Foto unterscheiden kann.

jup das ist mir bewusst geworden als ich das Bild vom Papst in Prada Jacke gesehen habe. Es sah für mich wirklich echt aus, nur mein gesunder Menschenverstand hat mir gesagt dass da was nicht stimmen kann. Aber gibt bestimmt genug Menschen die auf so was reinfallen (wäre ich bei dem Bild ja auch fast...)

 

[Virus]

jup das ist mir bewusst geworden als ich das Bild vom Papst in Prada Jacke gesehen habe. Es sah für mich wirklich echt aus, nur mein gesunder Menschenverstand hat mir gesagt dass da was nicht stimmen kann. Aber gibt bestimmt genug Menschen die auf so was reinfallen (wäre ich bei dem Bild ja auch fast...)

Nicht nur das Bild es gibt so viele…

 

[Zaradur]

KI ist wie Atom Ernergie die Menschheit ist viel zu Dumm um das nur für gute Zwecke zu nutzen.
Von daher wird das wie alles andere irgendwann Gefährlich für die Menschheit selbst.

 

[Schakara]

Der Kuchenmessias hat gesprochen und die Apokalypse vorrausgesagt Also auf 3 alle gemeinsam in Panik geraten.

 

[Virus]

1,2,3 Panik!!!

Spaß beiseite wenn wir ein bisschen darauf achtgeben was wir entwickeln und entsprechende Schutzmechanismen einbauen sollten wir in der Lage sein keine Invasion loszutreten.

Doppelpost zusammengeführt: Mai 5, 2023

Der Kuchenmessias hat gesprochen und die Apokalypse vorrausgesagt Also auf 3 alle gemeinsam in Panik geraten.

Wieso wandert eigentlich alles wo @Schakara dabei ist wieder ins lustige?

 

[Schakara]

Wieso wandert eigentlich alles wo @Schakara dabei ist wieder ins lustige?

Oj! Willst du damit etwa sagen, ich bin eine Witzfigur?

 

[TheSupercomputer]

KIs sind grundlegend nur dazu in der Lage Muster zu erkennen und diese zu replizieren.
Mit allen vor und Nachteilen die draus entstehen.

Wenn klare Muster vorhanden sind, "versteift" sie sich darauf, wenn keine vorhanden sind kommt alles mögliche bei heraus.

Eine wirkliche Intelligenz wurde bisher nicht gebaut und wird vermutlich auch in den nächsten Jahren nicht gebaut werden.
Alles bisherige sind hoch spezialisierte Modelle die eine Aufgabe entsprechend gut können.

 

[Andre D'Addio]

Da ich eigentlich recht offen bin, was sich bezüglich in der Entwickelung so in der letzten Dekade so getan hat, dann bin ich recht offen für das.

Nur sollte man dabei nicht den Überblick dabei verlieren und wir uns am Ende zu Abhängig von der Technik machen, denn da sind wir Menschen leider sehr anfällig für. Wenn uns jetzt schon die eigene Kreativität im Weg steht und uns die Technik Entscheidungen abnehmen soll, dann ist das ein Schritt in die Falsche Richtung. Allein wenn ich mitbekomme, was jetzt schon möglich ist, da läuft es mir teilweise echt kalt den Rücken runter.

Zwar sehe ich auch die positiven Aspekte darin, aber wie Oben schon erwähnt, wir dürfen es nicht zulassen, das die Technik uns das Denken abnimmt. Sonst werden wir eines Tages so unbedeutend "wie eine Träne im Regen".

Eine KI gewinnt den Pulitzer Preis oder den Oscar für das beste Drehbuch. - Zwar nur ein kleines Gedankenspiel, aber da bekomm schon leichte Kopfschmerzen von.

 

[GoodKing]

Ich nutze ChatGPT nur zum Programmieren, Ab und an hat man mal eine Stelle im Code, welche nicht so funktioniert, wie sie funktionieren soll. Dann kopiere ich den Codeschnipsel in ChatGPT und mir wird der Code korrigiert und der Fehler erklärt.

Es kommt aber auch immer auf den Einsatz an: Ein Messer kann man bspw. nutzen, um ein Brot zu schneiden, aber in den falschen Händen wird es als Waffe benutzt. Bei KIs ist das meiner Meinung nach, genau so.

 

[Virus]

Es freut mich echt, dass so viele hier ihre Meinung zu KIs geteilt haben

Ich nutze ChatGPT nur zum Programmieren, Ab und an hat man mal eine Stelle im Code, welche nicht so funktioniert, wie sie funktionieren soll. Dann kopiere ich den Codeschnipsel in ChatGPT und mir wird der Code korrigiert und der Fehler erklärt.

Es kommt aber auch immer auf den Einsatz an: Ein Messer kann man bspw. nutzen, um ein Brot zu schneiden, aber in den falschen Händen wird es als Waffe benutzt. Bei KIs ist das meiner Meinung nach, genau so.

KIs können dir natürlich helfen gutes zu programmieren, aber du kannst sie leider auch für schlechte Dinge nutzen.

Ich hoffe, dass für so etwas einfach mehr Schutzmaßnahmen programmiert werden.

 

[Schakara]

Es freut mich echt, dass so viele hier ihre Meinung zu KIs geteilt haben


KIs können dir natürlich helfen gutes zu programmieren, aber du kannst sie leider auch für schlechte Dinge nutzen.

Ich hoffe, dass für so etwas einfach mehr Schutzmaßnahmen programmiert werden.

Tjaa Schutzmaßnahmen sind so eine Sache ^^

Ich erinnere mich noch an die gute alte Windows-Firewall von Windows-XP, ein Paradebeispiel für "Sicherheit"

Wer erinnert sich auch noch? Hände hoch.. Der Klassiker sah in den meisten Fällen so aus, man hat sein Windows-XP installiert und das erste, was man gemacht hat nach der erfolgreichen Installation war, das Teil zu deaktivieren. Und warum? Ganz einfach, weil das Teil einfach alles weggeblockt hat und man so gut wie nichts im System machen konnte. Ja, es gab Wege das einzustellen, mit denen kannte sich aber kaum einer (insbesondere der Endverbraucher) aus.

Windows-Vista war genau die gleiche Kiste, bei jedem Ausführen einer App wurde man ständig von Windows genervt und jeder hat sich gefragt, was das soll..
Da hat sich damals sogar Apple schon drüber lustig gemacht:

Mit Windows-7 wurde es dann einstellbar gemacht und was war die Reaktion der meisten? Es wurde deaktiviert oder auf "Nerv mich nicht" gestellt...

Lange Rede kurzer Sinn - Schutzmechanismen sind immer nur so sinnvoll wie ihre Nutzer. Das größte Einfallstor ist und bleibt der User vor dem PC, das wird sich auch denke ich bei KIs nicht verändern. Die einzige Möglichkeit sonst ist eben alles in eine Art Sandbox zu packen, auf die man keinen Zugriff hat - siehe Apple Produkte aka iPhone / iPad mit dem App Store - die sind schon wirklich sehr sicher. Aber man hat damit einfach nicht die gleichen Freiheiten wie unter einem Windows. Dementsprechend ist es nicht wirklich möglich, bestimmte "Schutzmaßnahmen" zu schaffen, es sei denn man setzt dafür gewisse Funktionsumfänge bzw. Möglichkeiten aufs Spiel.

Mal ganz davon ab, dass eine KI ja dazulernen "soll".