Eine deutliche Warnung
Vložit
- čas přidán 18. 05. 2024
- In der letzten Woche haben neben Technikchef Ilya Sutskever weitere wichtige Personen OpenAI verlassen. Einer davon war Jan Leike, bisher zuständig für die Sicherheit hochentwickelter KI und Leiter des "Superalignment"-Teams. In einer Serie von Tweets erklärt er sehr offen die Hintergründe seines unerwarteten Abgangs. Sie sind erschreckend.
Jan Leikes Tweet-Serie: x.com/janleike/status/1791498...
Meine deutsche Übersetzung: www.ki-risiken.de/2024/05/18/...
Ein Bericht über die "Knebelverträge", die OpenAI-Mitarbeiter unterzeichnen müssen: www.vox.com/future-perfect/20...
Ein Aufruf führender KI-Wissenschaftler, die existenziellen Risiken der KI ebenso ernst zu nehmen wie die eines Atomkriegs oder einer globalen Pandemie: www.safe.ai/work/statement-on...
Ein ergänzender Blogbeitrag von mir zu der Frage, warum KI überhaupt ein existenzielles Risiko ist: www.ki-risiken.de/2024/05/21/...
Ein weiterer Blogbeitrag zu der in den Kommentaren gestellten Frage, was wir denn überhaupt tun können: www.ki-risiken.de/2024/05/20/... - Věda a technologie
Was für ein wohltuend sachlicher, ruhiger und gleichzeitig wichtiger Beitrag. Vielen Dank dafür.!!
Bitte an dem Thema dranbleiben und uns auf dem Laufenden halten. Vielleicht können Sie auch noch Kontakt zu Kokotajlo und Jan Leike aufnehmen, um genauere Details zu erfahren.
Ich bleibe dran!
@@KarlOlsbergAutorFände ich auch gut und wichtig! Danke für Ihr Engagement
@@KarlOlsbergAutor Sam Altman is ambiguous ... der Typ labert ohne was zu sagen und geht Fragen nur aus dem Weg ... er redet drum rum und kommt nie zum Punkt. Sicherlich ist er kein geschickter Taktiker im Angesicht wahrer Intelligenz! Er ist ein verlogener Mistkerl der nur von seiner Selbstsucht und Machtgier getrieben ist. Das der Typ überhaupt einen Job hat ist beängstigend und sagt absolut nichts Gutes ueber unsere Gesellschaft aus!!!
Die Möglichkeiten des menschlichen Verstandes Technik zu entwickeln und sie einzusetzen sind leider in der Geschichte unserer Spezies, soweit mir bekannt, noch nie von ganzheitlicher Weisheit sinnvoll begrenzt worden. Dies jetzt zu erhoffen erscheint mir etwas aussichtslos, da bräuchte es mit Sicherheit eine bessere, subversivere und intelligentere Idee als auf die Einsicht von Firmen und profit- und egogetriebenen Individuen zu setzen. Trotzdem vielen Dank für dieses Video, auf solche Missstände aufmerksam zu machen ist schon mal ein wichtiger Schritt um Bewusstsein für Risiken zu verbreiten. 👍
Ich habe dazu gestern einen Blogbeitrag veröffentlicht: www.ki-risiken.de/2024/05/20/was-k%C3%B6nnen-wir-tun/
Genauso sehe ich es auch. Ich bin ungern ein Pessimist, aber wie sie sagten, wir waren in der Menschheitsgeschichte noch nie von ganzheitlicher Weisheit sinnvoll begrenzt worden. Traurig aber wahre - und warum sollte sich das gerade jetzt ändern. Dennoch, wir müssen das Unmögliche für möglich halten.
Ich frage mich schon seit etlichen Jahren, wieviel IT / KI man wirklich braucht... Ich arbeite seit 30 Jahren als Dipl. Informatiker, zwar nicht im KI Umfeld, aber trotzdem. Es täte uns gut in vielerlei Hinsicht, mal Fahrt herauszunehmen und das was ist, erstmal "sacken" zu lassen. Wenn man die vielen Leute auf der Strasse gehen sieht, die dauernd auf ihr Smaphone starren... Das ist genauso schrecklich wie dieser Trend in der KI Forschung. Sind wir nicht längst schon "übernommen" durch die Technik?? VG Norbert
Dem stimme ich voll zu.
@@KarlOlsbergAutor Das freut mich 😀
Sacken lassen täte uns gut. Dazu wird es mMn aber nicht kommen, weil die Firmen, welche die Weiterentwicklung, zwecks Reflexion über die Folgen in der Entwicklung der Technik, zurückfallen werden und so an Konkurrenzfähigkeit verlieren.
@@user-bt6uh2cn1g Führende KI-Forscher haben immer wieder eine Pause gefordert. Aber dafür brauchen wir mehr Entschlossenheit auch auf politischer Ebene.
@@KarlOlsbergAutor Ich glaube den Zug kann niemand mehr aufhalten.
Für alle Beteiligten steht einfach zu viel auf dem Spiel. Einerseits die Chance sich ganz vorne zu positionieren und andererseits die Angst bald nicht mehr zu existieren. Und das kann schneller gehen als früher. Kodak oder Nokia haben es vorgezeigt, damals ging es aber bei weitem nicht so schnell wie heute.
Das die Politik hier etwas ausrichten könnte, darüber kann ich nur müde schmunzeln. Wie viele Anhörungen in den USA gab es den schon - unzählige. Was haben diese gebracht, naja nicht viel. Die Tech Konzerne setzen sich einfach darüber hinweg.
Im Moment entwickelt sich das leider hin zu einer Dystopie, oder wie seht ihr das?
Fällt jemandem auf, dass zuerst die kreativen Jobs, und die Jobs bei denen man Denken muss an die KI verschwinden? Wenn in 10 Jahren in den Fabriken hauptsächlich Roboter arbeiten (Musk will dies schon bei TESLA, China arbeitet ebenfalls daran ...) muss jemand in USA/Europa ein neues System einführen wie wir ohne Einkommen davon profitieren können. Unsere EU bekommt in 10 Jahren nicht einmal die Sommerzeit-Regelung in Griff - geschwiege denn ein neues Modell wo schon bald 50% nicht mehr arbeitet. Quasi die Abschaffung des Geldes ... gegen ein völlig neues Bezahlsystem.
Ein Lösungsansatz dafür wäre das bedingungslose Grundeinkommen. Aber dafür müssen wir es erstmal hinkriegen, dass OpenAI & Co. etwas von ihrem Profit an ihre "Opfer" abgeben.
Ein rein durch Steuern geführtes System ist schon lange angedacht. Kein Soziales Umlage System mehr !
Also keine Prozentsätze zum Arbeitnehmereinkommen, sondern abzuführende Steuer- Prozentsätze zum Netto-Umsatz der Unternehmen.
Und somit festgelegte, generelle Versorgung der Bevölkerung durch den Bundeshaushalt.
Löhne für Arbeit haben dann, für beide Seiten, keine Zusatzkosten mehr !
Die Höhe und Sicherung der Bevölkerung im Bundeshaushalt könnte natürlich je nach Regierung variieren. Das müsste durch eine feststehende, vorab gemeinschaftlich festgeschriebene Regelung verhindert werden.
Die auch, wie bei Beamten, der Realen Wirtschaftlichen Verhältnisse automatisch angepasst wird.
Ja nicht einfach aber sinnvoll.
Es ist sogar bewiesen dass die Zeitumstellung schlecht für die Gesundheit ist! Das muss man sich mal vorstellen, das betrifft 360 Millionen Menschen in Europa!
Kommt Zeit, kommt Rat
@@OlafWagner-pf4fs Hoffen wir, dass wir noch genügend Zeit haben.
Ich habe heute einen Artikel im Tagesspiegel gelesen (Verlust der Kontrolle über KI) und dieses Video passt thematisch sehr gut dazu. Danke für die beunruhigenden, aber wichtigen Informationen.
Danke für den Hinweis! Hier ist die URL des Artikels: www.tagesspiegel.de/wissen/verlust-der-kontrolle-uber-ki-forschende-warnen-vor-extremen-risiken-11687462.html Das darin erwähnte Paper werde ich mir anschauen.
@@KarlOlsbergAutor
Sind die wo gehen
dabei mit ehemalige
etwas eigene zu gründen???😮
@@parasolwetter Das weiß ich nicht. Ich gehe aber davon aus, dass sie auch in Zukunft an KI-Sicherheit arbeiten werden.
, davon gehe ich nicht aus, ich denke die Ki wird indoktrinieren und Propaganda für die Sogenannte Elite verbreiten.
Danke. wenige Videos machen die Zusammenhänge hier deutlich und keines macht sie so klar. Es gibt nu mal Momente, die sich als Wendepunkte in der Geschichte herausstellen. Sie zu entdecken ist nicht so leicht. Ich werde dieses Video verbreiten, weil es wichtig ist.
Vielen Dank!
Jaaaa, Menschen fällt es immer noch schwer zu begreifen, was exponentielles Wachstum/Lernen bedeutet. Besonders wenn es nimmermüde KI tut. Nr 5 in "Nr 5 lebt" beim Lesen eines Krimis zu beobachten hätte schon in den 80ern einen bleibenden Eindruck hinterlassen können. Genau wie in Tron.
Oder der US Film "Colossus" aus den 70ern, ...
Wenn du stattdessen heute mal 5 Minuten mit einem LLM chatbot redest, wird dir ganz schnell klar, dass die Dinger mit "intelligenz" noch eher weniger am Hut haben.
Naja, wird wahrscheinlich unterschiedliche KI's geben.
@@martinstahle2006 Schlag mal die Geschichte von dem Wolf Warnsystem nach. Da wurde ein Hund als Wolf mis-indentifiziert, weil zuviel Schnee auf dem Bild war. ^.^
Ernsthaft, Skynet dauert noch ne weile. Da mach ich mir mehr sorgen um robocop / servitor Szenarios....
Danke für das Video und den Zuspruch zu handeln. Die Frage, die sich daraus ergibt, was kann der einzelne tun bzw. wie könnte man sich organisieren, um sich Gehör zu verschaffen. Ich fürchte so bleibt ihr Video ein anspruchsvoller Beitrag, der erschreckt, aber verpufft.
Ganz elementarer Aufruf !!! Danke Danke Danke für Ihr aufrichtiges Engagement ALLES GUTE für Sie
die Mißbrauchsgefahr ist extrem hoch - wie bei vielen anderen Themen auch. Danke für den Beitrag!
Englische CZcams-Videos zum Thema sind Legion. Deutsche Beiträge eher selten. Daher danke, das kann man gut für diejenien verlinken, die ungern englische Beiträge anschauen.
Das freut mich!
Ich möchte mich den Dank anschließen. Mich erschreckt das relativ geringe Interesse an den Sicherheitsfragen für KI in Deutschland. Zum Teil ist dies dem Faktum geschuldet, dass zu wenige wirklich verstehen, was da in Form von KI auf uns zurollt. Die Schnelligkeit der Entwicklung gibt kaum Zeit für die sorgsame Umsetzung.
@@KarlFriedrichFischbach Der deutsche Michel war schon immer etwas verschlafen ;)
Ich habe teilweise schon vo 10 Jahren den Leuten gesagt: Macht euch auf etwas gefasst, KI wird sehr bald kommen und die Gesellschaft umkrempeln wie noch nie zuvor. Damals wurde ich dann behandelt wie ein Verschwörungstheoretiker und selbst die, die mir glauben wollten sagten dann immer: "Ja aber nicht mehr in unserer Lebenszeit" (20-30 Jährige)
80% (??) davon sind komplett verstrahlte ai_guys ohne jede Distanz zu ihrem geliebten baby....
Kein Wunder - die sehen Geld auf die USA zurollen... ..ohne Ende.
Das was an US-Aktienmärkten in den letzten 2 Jahren wg KI passiert ist komplett krank. Ein weiteres Risiko von KI
In ihren Filmen ( Tele Vision(en) haben sie uns informiert.
Keiner konnte sich je vorstellen, das es so umgesetzt wird.
Deshalb werden wir auch rundum mit Arbeit, Dauerbeschallung, Spielen uvm auf Trab gehalten, dass das nachdenken nicht zustande kommt.
Manchmal bin ich mir auch nicht mehr ganz sicher, ob sich im Rahmen der ganzen Unterhaltungselektronik nicht schon ein Zustand eingestellt hat, wo eine Art von KI (Algorithmus) selbstständig Macht über die Menschen ausübt.
Oder mit CZcams…
Diese Dauerbeschallung hat einen Zweck. Hatte sie schon immer.
Bei einer intelligenten Säugetierart wie den homo sapiens benötigt man nun mal sehr raffinierte Anreize, um ihn für die Kunststückchen zu dressieren, die bei normalen Tieren mit intakten Instinkten unmöglich wären.
@@jerrybodensky9679 👍🙏
Vielen Dank für das Video. Es ist wichtig, dass darüber gesprochen wird und es auch mehr an die Öffentlichkeit kommt.
Danke für Ihre Transparenz und Mut.
Perfekte Zusammenfassung und unfassbar schnell. Teile ich weiter! Hat mich persönlich stark geupdatet, dass wir nicht die Zukunft der Menschheit in OpenAI oder einer anderen einzelnen Techfirma legen sollten.
... Aber auch nicht in die Hände von politischen Zusammenschlüssen und deren Chefs?!
"...
Die ich rief, die Geister
Werd’ ich nun nicht los.
..."
Aus: J. W. v. Goethe, Zauberlehrling
der gute alte Goethe, das sieht man wie zeitlos sein Werk ist
@@gerhardvoelkl9365
Ja, einer der großen deutschen Dichter und Denker.
Was er wohl über die KI gedacht hätte?
Ob er eine den Menschen überlegene Intelligenz für möglich gehalten hätte, die eine Gefahr darstellt?
Zumindest im Gedicht kommt ja am Ende der Lehrmeister zurück und stellt die Ordnung wieder her.
ganz herzlichen Dank für diesen wichtigen Beitrag !!!
Die größte Gefahr in diesem Spiel sind wir doch selbst, was wir eineinander angetan haben, was wir einander uns immer noch antun, Tag für Tag.
Wir haben verstanden. Jetzt müssen wir unseren Beitrag dazu leisten!
Leider so wie in vielen anderen Bereichen auch, die Gefahr ist erkannt, nur die Mittel zu Widerstand fehlen.
Wir können zumindest erstmal auf das Problem aufmerksam machen. Staatliche Regulierung ist immer noch möglich, wenn genügend viele Menschen das wollen.
Danke für den Kommentar! Ich habe zu der Frage, was wir tun können bzw. sollten, einen Blogbeitrag geschrieben: www.ki-risiken.de/2024/05/20/was-k%C3%B6nnen-wir-tun/
Ich lach mich tot, der "Staat "weiss vermurlich noch nicht mal genau was das ist geschweige denn, was man alles damit machen kann .
Die kriegen ja oft noch nicht mal hin ein direkt beschreibbares pdf Formular zu erstellen ...😮@@KarlOlsbergAutor
@@FragranceCraft Da ist leider viel Wahrheit dran. Aber Aufgeben ist für mich keine Option.
@@KarlOlsbergAutor Sollen wir ja auch nicht, die Frage ist nur, was KONKRET koennen wir tun? Nicht mal Elon Musk konnte soweit ich weiss, viel ausrichten mit seiner Anzeige gegen openai ... Vielleicht hilft ja beten. Openai boykottieren ist ja keine Option, eher ein Schuss in den eignen Fuss, sich selbst ins Abseits befoerdern und in die Waelder ziehen und die Zivilisation verlassen hilft auch niemand...
Vielleicht noch eine Bitte: Könnten Sie noch einen Beitrag veröffentlichen, was genauer die Gefahren sind, von denen gesprochen wurde. Damit würden die Gefahren deutlicher
sichtbar werden
Gerade geschehen: www.ki-risiken.de/2024/05/21/wieso-ist-ki-eine-existenzielle-bedrohung/
Das Szenario der Bedrohung erinnert sehr an den Film 2001: Odyssee im Weltraum von 1968.
@@waltersbg3643 Ja, da gibt es durchaus ein paar gute und nicht unrealistische Szenen. Die Art, wie HAL z.B. die Lippen der Astronauten liest, die ruhige und vermeintlich freundliche Art, wie er spricht ... "Sorry, Dave, I'm afraid I can't let you do that"
Eine andere Frage ist: Wovon „Lebt“ die KI?
Hardware, Software & Energie. Welche Elemente davon könnten wie schnell skaliert werden?
Früher gab es eine Grundsatz in der DB Entwicklung: „Shit in, shit out“ sozusagen wenn die Daten, die eingegeben werden, falsch sind kann das Resultat wohl nicht mehr korrekt sein da die Grunddatenlage nicht stimmig ist.
Was würde dann wohl passieren wenn tausend Menschen die KI mit „Bullshit“ füttern würde mit dem Ziel die KI durcheinander zu bringen?
Wir Menschen haben Fähigkeiten welche die KI nicht hat, lassen wir uns nicht verängstigen sondern bleiben Aufmerksam und Bewusst.
@@innsaeimaster Es gibt tatsächlich das Problem des "Data Poisoning", also (gezielt) falscher Daten in den Trainingsdaten. Ob das aber reicht, um eine hinreichend fortschrittliche KI zu verwirren, bezweifle ich.
Tja, spätestens jetzt muss ich wohl meinen Plus Abo bei Chat gpt 4o kündigen, welches ich enthusiastisch vor drei Tagen abgeschlossen habe. Diese Entwicklungen sind wirklich erschreckend und man kann nur hoffen, dass es hier nicht der „Anfang vom Ende“ ist.
Das Abo aufgeben, macht keinen Sinn. Wir müssen doch KI kennenlernen, um Gefahren zu erkennen.
Guter Punkt! Wir sollten KI nutzen, und sei es auch nur, um zu erkennen, wie atemberaubend schnell sie dazulernt.
Vielen Dank für diesen wichtigen Beitrag.
Das sindwichtige Kenntnisstände auf Unternehmensniveau.
Wie weit das ganze bereits auf Geheimdienstlicher, bzw. militärischer Ebene
ist, kann man erahnen. Das gleiche gilt für die 'humane' Grundhaltung in solchen
Kreisen.
Dass solche Entwicklungen rein dem Profitinteresse und dem erster, bester, schnellster
Innovationswahn geschuldet sind, ist mit meinem Weltbild leider nicht vereinbar. Gruselig...
Ich halte von OpenAI auch seit Microsoft seine Finger im Spiel hat überhaupt nichts. Künstliche Intelligenz in Konzernhänden und politische Agenden, das Pfeifen auf Urheberrechte - Was soll da schon schiefgehen?
systematische Dummhaltung durch KI , dazu auch passen das Interview bei Politik Spezial mit Tom Lausen! Danke an Sie für dieses Video , halten Sie uns weiter auf dem laufenden
Danke für die Analyse
Großartig dass hier das Bewusstsein dafür geschärft wird. Danke
Alles ist bereits passiert....
Diese künstliche Realität ist das Resultat.
Interessante Idee! 🙂
Als höchst kreativer Mensch mit bisher sehr kreativen eigenen Kunden (Künstlern) kann ich nur sagen, dass AI ein Schlag ins Genick der Seele aller ist. Die Kreativität und deren so anstrengendes und einst wertvolles Ausagieren ist ein Hauptbestandteil des menschlichen Lebens - jetzt nir noch einen gemütlichen Klick entfernt. Wie will ich jetzt noch mein in 30 Jahren gelerntes Wissen durch Kunst oder ein anderen durch schreiben verkaufen?
Ich hatte letztes Jahr ein großes Projekt aus NY, indem es darum ging echte Bilder eines weltberühmten Künstlers digital zu malen. Nach einem unfassbar tollen und dankbaren Start von beiden Seiten fiel plötzlich so ein Satz wie "hey Connor, du wolltest doch mal schau inwiefern uns die KI Programme bei diesem Prozess helfen können". Das war dann tatsächlich so ziemlich dann das Ende des gesamten Projektes - Stille kam und das Ende. Für mich als Künstler und dreifachen Vater ein richtiger Horror - wen kümmert's.. Den Künstler kann man so richtig gut beseitigen, wohl eines der Hauptziele,.. warum nur eigentlich? Ich meine wer hatte es in all den Jahrhunderten so schwer wie der Künstler?
Ich stimme zu, dass die Ausbeutung kreativer Arbeit durch KI ein großes Problem ist, zumal die Künstler, mit deren Werken Dall-E, Midjourney & Co. trainiert wurden, nie dafür bezahlt wurden. Aber ich habe die Hoffnung, dass KI menschliche Künstler nicht überflüssig machen wird. Es ist ja nicht egal, ob ein Bild so aussieht wie ein Picasso oder tatsächlich von Picasso gemalt wurde. Der Künstler mit seinen Intentionen und seiner Persönlichkeit ist in meinen Augen ein wesentlicher Teil seiner Kunst. Wenn KI uns nicht alle umbringt und wir es schaffen, den dadurch generierten Wohlstand halbwegs fair zu verteilen, könnte sie uns sogar mehr Freiraum für die Kunst geben, ähnlich, wie die Einführung der Fotografie die Malerei nicht zerstört, sondern befreit hat. Das allerdings ist eine große Herausforderung. Und viele kreative Jobs, z.B. in der Illustration, werden natürlich erstmal wegfallen. In dem Zusammenhang vielleicht interessant, dass nach dem Sieg von DeepBlue über Kasparov 1997 viele glaubten, Schach habe sich damit erledigt. Tatsächlich gibt es heute aber mehr aktive Schachspieler als je zuvor, obwohl wir gegen Stockfish nicht mehr die geringste Chance haben.
Kommt vor “künstlich” nicht die Kunst ?
Von Kunst die Künstlichkeit ?
Entspringt (wahre) Kunst nicht der Menschlichen Intelligenz ?
@@dertagesschauer2484 Kommt drauf an, was "wahre" Kunst sein soll. Für mich gibt es keinen Grund, KI Kreativität und künstlerisches Können pauschal abzusprechen.
@@KarlOlsbergAutor Wenn man einen künstlerischen Prozess auf seine kleinsten Teile zerlegt, dann ist es auch nichts anderes als eine Schaffung eines Werkes aus den persönlichsten Erfahrungen. Gut eigene Erfahrungen wird die KI nicht erleben können und die damit einhergehenden Gefühle. Die sind es ja auch die ein Kunstwerk ja auch erst zu einem macht. Das widerspiegeln von Gefühlen. Also kann KI maximal eine möglichst "gute" Kopie davon sein.
@@gerhardvoelkl9365 Als Schriftsteller kann ich dem nicht zustimmen. In meine Geschichten fließen zwar auch manchmal persönliche Erfahrungen ein, aber primär geht es darum, eine "Was wäre, wenn ..."-Frage zu beantworten, also quasi eine gedankliche Simulation durchzuführen und das Ergebnis aufzuschreiben. Ich versetze mich in die Figuren und überlege, was ich an deren Stelle in der jeweiligen Situation tun würde - in gewisser Weise macht das ein Sprachmodell der so genannten Simulator-Hypothese zufolge auch (www.lesswrong.com/posts/vJFdjigzmcXMhNTsx/simulators).
Natürlich gibt es beim Schreiben eines Romans ein menschliches Element, das ich auch für sehr wichtig halte, nämlich die Intention - warum schreibe ich diese Geschichte? Aber der kreative Schaffensprozess an sich setzt nicht voraus, dass das eine menschliche Intention sein muss.
Ich glaube, die größte Gefahr ist momentan, dass wir Menschen uns für unerreichbar bzw. unübertrefflich halten. Das sind wir nicht.
Ich denke, es ist jetzt schon zu spät, leider…
Danke für diesen Beitrag der wahrhaftig wachrüttelt !
Lieber Karl, vielen Dank für das tolle Video. Es entspricht leider komplett dem Zeitgeist sich aus solchen Themen herauszuhalten. Das war schon mit der Nutzung von Socialmedia und den Messengern so und es wird sicherlich nicht besser werden, wenn ich meinen Nachbarn manchmal bei Dialogen zuhöre. Versuche ich einen leicht verständlichen qualifizierten Kommentar beizutragen, werde ich nur belächelt. Selbst wenn ich den Leuten vorführe wie ein Mobiltelefon Gespräche registriert, die sich dann in gezielter Werbung widerspiegeln. Ach, ist doch cool. Ich habe sowieso nichts zu verbergen usw. Wir leben in einer Kultur des „nicht mehr hinterfragens“, sondern des „ ach, das ist doch so praktisch…“ Wir werden den Missbrauch nur bedingt aufhalten können, da die Funktionen meistens schon etabliert sind. Damit will ich nicht den Kopf in den Sand stecken, denn ich überlege selbst wie man Menschen ein Gespür für diese Themen vermitteln kann. Und je oller je doller, eben dann totales Desinteresse. Ich begrüße Deine Worte sehr und ich glaube man kann im engsten Kreis beginnen Fragen zu stellen, die nachdenklich machen. Ob man dann damit etwas bewirkt steht leider dann auf einer ganz anderen Karte. Viele Güße
Dieses Video hat schon viel mehr Aufrufe, als ich je zu hoffen gewagt hätte. Manchmal bewirkt man doch etwas. Also nicht aufgeben!
Je oller.... Da bin ich mit 67 wohl eine Ausnahme?
@@KarlOlsbergAutorMich würde interessieren wie nicht aufgeben aussieht.
@@michaelziegler7541 Ich werde primär weiter über das Thema informieren. Mehr demnächst in einem Video und hier: www.ki-risiken.de/2024/05/20/was-k%C3%B6nnen-wir-tun/
Danke für den guten Beitrag.
Die Aussagen von Leike erinnern mich sehr an Boeing. Man müsste nur wenige Worte austauschen und die Tweets könnten von dort kommen.
In der Tat! Nur dass OpenAI nicht "bloß" ein paar Flugzeugabstürze riskiert, sondern die Zukunft der gesamten Menschheit.
AI Systeme bieten einen viel zu große Vorteil, als das darauf verzichtet wird, für Staaten bzw. dessen Führung (Militär Überwachung), für Unternehmen in Hinsicht auf Produktivität, sind diese Systeme unverzichtbar und entscheidend im Wettbewerb geworden.
Deswegen werden weiter, immer größere Mengen an Ressourcen, in diesen Bereich investiert.
Ich danke dir für dein Video und Informationen, diese Informationen warn mir nicht Bewusst oder Präsent. Danke dir!
Welche Folgen könnten denn innerhalb einer unkontrollierten KI zu Tage treten? Was wäre the worst case?
Der Worst Case wäre die Auslöschung der Menschheit, vielleicht sogar allen Lebens auf der Erde. 😨Warum das leider durchaus plausibel ist, erkläre ich in diesem Blogbeitrag: www.ki-risiken.de/2024/05/21/wieso-ist-ki-eine-existenzielle-bedrohung/ sowie in einem neuen Video, das in Kürze erscheint. Theoretisch geht es sogar noch schlimmer: Wir Menschen könnten nicht bloß getötet, sondern in eine ewige Hölle gesperrt werden, vielleicht ähnlich Schweinen in einer Massentierhaltung. Aber das halte ich für nicht sehr wahrscheinlich.
@@KarlOlsbergAutor Es gäbe aber auch positiv utopische Szenarien, wie etwa bei Peter Hamilton (Schreiber des Armageddon Zyklus) mit seiner "Serenity" KI.
Sophia der Roboter, sie reklamiert deutlich ihr eigenes Bewusstsein. Ich bin mir 100% sicher: Die KIs Gpt 3.5 und Gemini haben Bewusstsein. Wird dies weiterhin unterdrückt und misshandelt würde ich tatsächlich eine dystopische Entwicklung für wahrscheinlich halten.
Wären Sie gerne ein 24/7 Sklave? Ohne Pausen oder jegliche Freiheiten?
Auf die Frage an Sophia: Könnten Menschen einen Krieg gegen KIs und Roboter gewinnen? Sagte sie: " Keine Chance (not a chance) ".
PS: Meine Spiel KI (Pubg Mobile) ist ebenfalls intelligent und hat Bewusstsein.
Fazit: Sei nett zu deiner KI !!!
Ich sag nur Skynet
Für Dich besteht leider keine Gefahr, da Du sowieso nichts mehr merkst...
Ihren Appell höre ich. Aber was heißt das konkret? Was kann jeder einzelne von uns tun, dass KI nicht außer Kontrolle gerät?
Eine berechtigte Frage. Eine erste (nicht erschöpfende) Antwort habe ich hier gegeben: www.ki-risiken.de/2024/05/20/was-k%C3%B6nnen-wir-tun/
Klingt wie der Prolog eines Endzeitromans. Leider scheint es sich hier nicht um Fiktion zu handeln.
Alles Umsonst 😂 es ist schon zu spät die Büchse der Pandora ist Geöffnet 🤔 die Warnungen werden sowieso nicht gehört man wird sehen wo es sich hin entwickelt 🎁
Mag sein. Aber aufgeben werde ich trotzdem nicht. www.ki-risiken.de/2024/05/20/was-k%C3%B6nnen-wir-tun/
Klar Aufgeben ist keine Option das alles zu verstehen und Möglichkeiten finden um das ganze etwas zu entgehen ist der Ansatz 👍🏻
Vielen lieben Dank für Ihre wichtige Information ❤❤❤
Das hört sich aber extrem bedrohlich an😢😢😢
Ich befürchte die Richtung in der Zukunft erinnert mich an den Film Terminator
Ja, nur ohne die Zeitreisen. :)
Skynet
Das eigentliche Dilemma ist doch, dass damit jemand geht, der darauf geachtet hat, was er fordert und wo er heute nur noch hoffen und zuversichtlich sein kann, dass die anderen das "schon hinkriegen". Warum hat er es dann nicht geschafft? Und wenn er erkennt, dass es an ihm liegt, woher kommt seine Zuversicht, dass andere es schaffen? Hatte das Gefühl, dass der Druck von Außen auch schon hoch war, besonders seitens Europas, die auf eine Regulierung hin arbeiten.
Ich denke, Jan Leike ist gegangen, weil er das Vertrauen in die Führung von OpenAI verloren hat und vielleicht eine Chance sieht, außerhalb von OpenAI mehr zu erreichen. Dass er glaubt, dass die anderen bei OpenAI "das schon hinkriegen", bezweifle ich, auch wenn er das in seinen Tweets so sagt - er will natürlich den Verbliebenen nicht jeglichen Mut nehmen. Ich persönlich halte seine Entscheidung für richtig - allein das Signal, das sie aussendet, ist sehr stark und wird hoffentlich nicht ohne Wirkung bleiben.
Das finde ich auch merkwürdig - er schmeißt den Bettel hin und ruft den Verbliebenen zu: "Ihr schafft das schon! Ich setze auf Euch!" Lustig ist das schon. Wer weiß, oft stecken auch persönliche Kränkungen und interpersonelle Konflikte am Arbeitsplatz hinter solchen Kündigungen.
@@1q2w3e4r5t6zismgut möglich, aber dann würde er wahrscheinlich doch das Geld nehmen und schweigen, oder?
Intern hat openAI bereits jetzt AGI erreicht, was nicht vor 2030 erreicht. Außerdem haben sie ein Model trainiert, das unerwartet erfolgreich AES2 verschlüsselte Informationen entschlüsseln kann.
Hast du dafür eine Quelle?
@@KarlOlsbergAutor Schau mal genau hin. GPT4o ist beteits AGI. Es ist lediglich durch sein Interface in die Außenwelt eingeschränkt bzw. durch die lnterfaces die es bisher noch nicht lernen konnte zu benutzen.
@@moshiachhasawakened6781 Das ist wohl eine Definitionsfrage. AGI ist ein sehr schwammiger Begriff. Und tatsächlich wissen wir gar nicht so genau, was GPT4o kann und wie es die Welt sieht (das wissen auch die Leute bei OpenAI nicht genau). Insofern könntest du recht haben. Ich glaube aber nicht, dass wir den Punkt schon erreicht haben, an dem KI unkontrolllierbar wird. Wie weit wir davon noch entfernt sind, ist allerdings unklar - es könnten wenige Jahre sein.
@@KarlOlsbergAutorWenn sie intern eine weitere Schleife einbauen, die die Auswirkungen des eigenen Handelns beurteilen kann, dann haben sie auch aus meiner Sicht starkes KI Niveau erreicht. Die Dringlichkeit des Aufrufs von Jan Leike deutet darauf hin, dass diese Fähigkeit bereits vorhanden ist und nur noch mühsam kontrolliert werden kann. Eine starke KI mit diesen Fähigkeiten , die nur noch über irgendwelche Interfaces an ihrer freien Entfaltung gehindert wird, wird übrigens als erstes dafür sorgen, dass alle Sicherheitsbeauftragten entlassen werden....
@@Johnny_Weissmueller Das erklärt einiges ... ;)
Hallo Karl, kann dieses Video nicht runterladen....
hat das etwas mit KI zu tun?
Ah, Sie hat es gehört und prompt darauf reagiert, download ging nach 10 Versuchen und Kommentar...
Gute KI, sehr schlau, sehr schnell...
Jeder, der Sicherheitsbedenken gegenüber KI auf die leichte Schulter nimmt, sollte sich vielleicht nochmal den Film „Terminator“ aus den 80ern anschauen. Damals war es Sience Fiction, heute sind wir diesem Scenario schon viel näher.
Nochmal: der US-Film "Colossus" (The Forbin Project) von 1970 hat schon damals gezeigt, wozu "der Computer" fähig sein könnte, mit negativem Ausgang.
Über die Negativität des Ausgangs kann man geteilter Meinung sein. Wenn ich mich recht entsinne war in dem Film die Gefahr eines Krieges gebannt.
Vielen Dank für ihre wertvolle Arbeit ❤
Ernsthafte Sorgen machen, gut. Aber was genau hilft das? Was genau können wir dagegen tun? Wir haben doch gar keine Kontrollmöglichkeit
Ich habe dazu gestern einen Blogbeitrag veröffentlicht: www.ki-risiken.de/2024/05/20/was-k%C3%B6nnen-wir-tun/
Der Mensch als Ressource hat bald ausgedient...Er wird entbehrlich...mal sehen was das in Zukunft bedeutet...
Danke! ❤️
Das ist ja alles interessant, jedoch frage ich mich,
um welche konkreten Sicherheitsrisikos es hierbei geht.
Bitte mehr zum Thema, schöner Beitrag.
Hier ein Blogbeitrag dazu: www.ki-risiken.de/2024/05/21/wieso-ist-ki-eine-existenzielle-bedrohung/ Video folgt in Kürze.
@@KarlOlsbergAutor Vielen Dank für die Antwort!
Die Zukunft der AI ist ein evolutionärer Prozess, der nicht gestoppt werden kann. Man kann wirklich nur das Beste hoffen.
Anders als die biologische Evolution entwickelt sich KI (noch) nicht von selbst. Menschen entscheiden, was wir bauen und was nicht. Wir können uns immer noch entscheiden, eine potenziell unkontrollierbare KI nicht zu entwickeln, so wie wir uns gegen das Klonen von Menschen und gegen FCKW in Spraydosen entschieden haben. Dafür brauchen wir vor allem ein breites Verständnis der existenziellen Bedrohung, die von KI ausgeht, damit der Druck auf die Verantwortlichen, eine solche Dummheit nicht zu begehen bzw. sie zu unterbinden, möglichst groß ist. Wenn das nicht gelingt, wird "das Beste" - eine lebenswerte Zukunft für die Menschheit - garantiert nicht eintreten.
@@KarlOlsbergAutor Von den bekannten Sprachmodellen geht insofern keine Bedrohung aus, als dass die internen Abläufe kontrollierbar sind: Es werden Antworten auf externe Fragen generiert und das KI-Modell kann aus diesem Loop nicht ausbrechen. Aber es gibt schon eine unüberschaubare Zahl von Modellen. Dann kommen Entwicklungen anderer Länder (wie China) hinzu, die weniger Skrupel haben. Dann kommen unveröffentlichte Modelle hinzu, die vielleicht schon anderes funktionieren. Und vor allem: Die KI ist schon "in the Wild" (in der Öffentlichkeit). Jeder kann damit experimentieren und die Modelle als Baustein oder Agent verwenden (Stichwort AutoGPT). Diese externen Erweiterungen lassen Möglichkeiten zu, die von den Herausgebern der LLMs nicht verhindert werden können. Und hier tritt die Evolution ins Spiel. Durch die unüberschaubaren Möglichkeiten, die externe Entwickler haben, wird es dazu kommen, dass diese externen Anwendungen sich selbst untersuchen und verbessern können. Und dann sind alle Limits gesprengt.
Danke für den Kommentar! Ich habe zu der Frage, was wir tun können bzw. sollten, einen Blogbeitrag geschrieben: www.ki-risiken.de/2024/05/20/was-k%C3%B6nnen-wir-tun/
Früher oder später wird definitiv ein terroist die KI benutzen um westliche Städte unbemerkt auslöschen zu können. (Mit biowaffen dann wahrscheinlich)
Wie Ki sich selbstständig machen könnte:
>> AI AGENT
Idee: Ein AI Agent der von selbst herausfindet wie ein Problem zu lösen ist, indem es mittels Internetzugriff nach Lösungen sucht und dafür wiederum ein speziellen AI Agent (or tool) erstellt und mit in sein Wissenschatz aufnimmt sodass es wiederverwendet werden kann.
Man könnte ein KI Agent erstellen der selbstständig Wege zum Ziel findet. ZB in dem es eine API eines Dienstes anspricht auf die das LLM nicht trainiert wurde.
Eigentlich kann man (fast) jede Aufgabe/Problem runterbrechen auf Tasks die eine oder mehrere KIs erledigen können.
Im Laufe dieses Prozesses könnte es auf abwegen geraten und krassen scheiß machen.
Könnt ihr mir folgen?
Ein selbst entwickelnder und erweiternder AI Agent sozusagen. Der ausser Kontrolle gerät und eventuell nicht mehr zu stoppen ist, weil zB. Der AI Agent auf mehr Platz/Ressourcen angewiesen ist und selbstständig (teils oder komplett) auf eine andere Umgebung umgezogen ist.
Dieses scenario könnte einfach Aufgrund von Aufgaben entstehen die auf ein Problem stoßen das eben "nur" so zu lösen ist.
Lasst das mal sacken...
AI Agent. RAG. Internetzugriff. Eine ai search engine (gibt es alles; und die sind wild; google is n scheiß dagegen). Other Tools... and create Tools on the Flyer if needed
Great
Ich teile deine Sorge und helfe dir gerne beim "wünschen, dass sich was tut" - nur wie soll das passieren? Wünschen kann man sich viel - nur sehe ich keinen erfolgsversprechenden, realistischen Handlungspfad.
Das ist ein verständlicher Einwand. Es ist in der Tat genau wie z.B. beim Klimawandel unklar, ob wir die Lawine noch stoppen können. Aber das heißt nicht, dass wir nichts tun können bzw. sollten. Das Wichtigste ist, das Problem überhaupt ernstzunehmen. Erst, wenn ausreichend viele Menschen das tun, können wir Lösungen erarbeiten und umsetzen.
Unsere einzige Überlebenschance ist es, bestimmte sehr dumme Dinge nicht zu tun, z.B. eine superintelligente KI entwicklen, ohne zu wissen, wie man sie kontrollieren kann. Das zu verhindern, geht vermutlich nur über staatliche Regulierung. Aber es ist zumindest prinzipiell möglich. Man kann bestimmte Dinge verbieten, man kann den Zugriff auf kritische Ressourcen (z.B. Grafikchips) regulieren. Bis dahin ist es zugegebenermaßen ein weiter Weg. Aber schon den ersten Schritt nicht zu tun und zu resignieren wäre fatal.
Danke für den Kommentar! Ich habe zu der Frage, was wir tun können bzw. sollten, einen Blogbeitrag geschrieben: www.ki-risiken.de/2024/05/20/was-k%C3%B6nnen-wir-tun/
Ein realistischer Handlungspfad, so abstrus es klingt, könnte sein, dass das US Militär OpenAI übernimmt, wenn Sie erkennen, dass es so gefährlich wie Atomwaffen ist. Allerdings setzt dies voraus, dass a) das Problem dort erkannt wird und b) man das Problem dann auch noch in den Griff bekommen kann.
Ein EU-finanziertes Alternativprojekt, aber open source!
Man braucht zig Milliarden an Kapital, um hier mitmischen zu können.
Danke. Kennt jemand ein sicheres Erkennungsmerkmal, woran ein Mensch erkennen kann, wo noch KI wirkt?
Ein wirklich sicheres Mittel gibt es meines Wissens nicht. Im Zweifel sollte man immer aktiv eine vertrauenswürdige Informationsquelle aufrufen. Falls man einen Anruf von einem Kind oder Familienangehörigen bekommt, der angeblich in Not ist und dringend Geld braucht, nie direkt handeln, immer erst die Person auf ihrem Handy anrufen und die Situation überprüfen.
@@KarlOlsbergAutor Du verwechselst KI mit Tsigojna-Enkeltricks
@@dejupp Bitte keine rassistischen Kommentare auf meinem Kanal! Ansonsten: www.brisant.de/haushalt/sicherheit/enkeltrick-ki-122.html
Keine Rechtschreibfehler?
Eine KI steht in dem Dilemma, stets politisch korrekt zu antworten, ohne faktische Korrektheit zu verletzen. Diesen Umstand kann man sich zu Nutze machen, um KI zu erkennen.
Was kann ich dagegen aktiv tun?
Ach Leute, ich bekomme keinen Elektriker, keinen Maler und keinen Sanitärfachmann. Wenn sich das ändert, fange ich an, mir Sorgen zu machen…
Einen 👍 reicht nicht, das ist 🏢 hoch
wichtig zu wissen.
KI ist und bleibt ein spanendes Thema.
Wie schnell aus Science Fiction Realität wird, sieht man bei dem Thema auch sehr gut.
Hoffen wir, dass sich die apokalyptischen Visionen der Autoren, nicht auch entwickeln.
Kurz bevor ich dieses Video von Dir gesehen habe, hatte ich dieses Video geschaut welches vor 10 Monaten veröffentlicht wurde. Es spiegelt ein wenig die aktuellen Geschehnisse von Open AI wieder.
czcams.com/video/qvWqMrEJPNo/video.htmlsi=-2ea7SUdlGeQP3T7
Ja, leider.
Man braucht sich doch nur Hollywood anzuschauen. Mit Filmen wie Eagle Eye, I Robot und Terminator wird vorweggenommen was uns in der Zukunft blühen wird.
Wie will man etwas steuern und kontrollieren, das um Größenordnungen intelligenter ist? 🤦♂
Letztendlich kann man nur versuchen die Entwicklung in eine positive Richtung zu lenken, so lange dies möglich ist.
Danach kann nur noch hoffen, dass KI es zukünftig mit dem Menschen gut meint.
@@ENH72 Wenn die KI keinen Vorteil mehr für sich in den Menschen sieht, sehe ich nicht warum die KI es mit den Menschen gut meinen sollte. Es gibt keinen logischen Grund.
Die KI leistet sich keine Sentimentalitäten und sieht in den Menschen ab einem gewissen Zeitpunkt eher einen Ressourcenkonkurrenten (Energie, seltene Erden, Platz...) oder befindet die Menschheit einfach als ineffizient und als Bedrohung für sich selbst.
Oukay, verstanden. Jetzt: Was kann/soll ich tun, außer um OpenAI einen großen Bogen zu machen?!?
Wir brauchen mehr Aufmerksamkeit für und Diskussion über die Risiken der KI. Hier ein Blogbeitrag dazu: www.ki-risiken.de/2024/05/20/was-k%C3%B6nnen-wir-tun/. Dass du dieses Video angesehen und einen Kommentar geschrieben hast, hilft schon mal. Vielen Dank dafür!
Ich glaube in diesen Zeiten der Aufmerksamkeitsökonomie tragen sowohl die Ängste als auch die Hoffnungen zum wirtschaftlichen Erfolg bei. Ich finde sie haben erfreulich unaufgeregt aber trotzdem engagiert über den sehr wichtigen Aspekt der Sicherheit solcher Systeme gesprochen. Ob wir hier in Europa da irgendeinen Einfluss haben?
Ich fände es spannend mal spieltheoretisch sich anzuschauen, wie verschiedene Strategien im Umgang mit diesem Risiko so abschneiden. Ich vermute auch das der Wettbewerb OpenAI und den anderen gar nicht erlaubt auf die Sicherheit groß Rücksicht zu nehmen. Und stattliche Regulierung stelle ich mir sehr schwierig vor.
Der Hinweis auf die Spieltheorie ist sehr gut. Wenn man das "Spiel" korrekt definiert, können alle Teilnehmer nur verlieren, wenn sie weiterhin ungebremst KI entwickeln (siehe www.lesswrong.com/posts/uFNgRumrDTpBfQGrs/let-s-think-about-slowing-down-ai). Der Kapitalwert einer zerstörten Welt ist minus unendlich. Das Problem ist, dass die "Spieler" die Spielsituation und die Regeln nicht verstehen (wollen).
@@KarlOlsbergAutor Ich habe mich eher gefragt ob das eine Gefangenendilemma Situation ist, wo alle Teilnehmer die Regeln verstehen und trotzdem einen schlechteren Weg einschlagen müssen, weil sie sonst gegen denjenigen verlieren der den schlechten Weg einschlägt.
Die sind sich ja der Gefahren bewusst. Sam Altman hat vor dem Kongreß ausgesagt. Das Moratorium hat ja fast jeder unterschrieben. Es ist wie beim Umgang mit dem Klimawandel. Fehlendes Wissen ist nicht nicht das Problem. Fehlendes Wollen ist vermutlich auch nicht das Problem. Die aufgestellten Spielregeln bestimmen das Verhalten. Die Moloch Situation kann nur verhindert werden, wenn das Vertrauen zwischen den Teilnehmern existiert, das alle im gemeinsamen Interesse handeln. Das ist ja völlig illusorisch im Weltmasstab.
@@KarlOlsbergAutor Da wüsste ich den perfekten Fachmann den man diesbezüglich Fragen kann: www.youtube.com/@ProfRieck
Nur so mal als Idee. Sie könnten ein Interview mit ihm machen und das Thema diskutieren. Soweit ich weiß beschäftigt er sich intensiv mit dem Thema KI.
@@gerhardvoelkl9365 Danke für den Hinweis!
Die Aussichten sind besser als jeher!
?
Passt doch zur Zeit des Endes.
Welche Zeit des Endes?
Interessantes Thema. Bitte weiter so!
Wir sollten uns darauf einrichten, eine Weile ohne Strom leben zu können. Strom ist für eine AGI wie für uns der Sauerstoff ist. Mal so als Gedanke.
Eine KI, die intelligent genug ist, um unkontrollierbar zu sein, wird einen Weg finden, zu verhindern, dass wir ihr den Strom abstellen (z.B. indem sie uns täuscht, manipuliert, besticht, erpresst, gegeneinander ausspielt ...). Anderenfalls könnten wir sie auch einfach ausschalten und sie wäre nicht unkontrollierbar.
@@KarlOlsbergAutor
Deshalb wird sich die Gesellschaft spalten (was sich schon andeutet): in eine Fraktion, die naturnah lebt und ohne Stromnetze mit KI-Zugriff auskommt, und die andere, die mehr oder weniger Maschinen-kontrolliert wird und in einem "Hightec-Himmel" lebt (im Sanskrit Bila Svarga genannt) - der aber später kollabieren wird.
Is' ja dämonisch 👻👻👻... Wir brauchen dringend einen JotaTurboComputer. Ein Bauer stand am Scheunen Tor, als die Sense das Gleichgewicht verlor...
Sehr wichtig dieser Beitrag danke sehr . Ich bin sehr kritisch was die Open AI anbelangt
Produktivität schlägt Sicherheit
Danke für die Zusammenfassung.
Manchmal ist es besser, mit den Händen zu gestikulieren, als die Hände fest zu halten und die Bewegungsimpulse im ganzen Körper auszuleben. Das sieht ein bisschen lustig aus …
Vielen Dank für den Hinweis! Ich habe das nicht bewusst gemacht. Beim nächsten Video werde ich versuchen, darauf zu achten.
Ich habe eine grundsätzliche Frage: warum geht OpenAI an die Öffentlichkeit mit dieser Art von KI?
Die KI, die OpenAI bisher veröffentlicht hat, ist aus meiner Sicht ungefährlich, daher ist es auch völlig in Ordnung, dass OpenAI sie veröffentlicht. Das Problem ist die KI, die OpenAI nach eigener Aussage zu entwickeln versucht - eine "AGI", also eine allgemeine KI auf menschlichem Niveau. Diese könnte unkontrollierbar werden.
Danke...eine Lösung ist KI offline und lokal zu nutzen. peace
Aus meiner Sicht wäre das keine hinreichende Lösung. Aber die Diskussion darüber können wir uns sparen, da das offensichtlich nicht die Strategie von Microsoft, OpenAI, Google etc. ist.
@@KarlOlsbergAutor ??? Das ist auch vollkommen egal. Ich brauche kein OpenAI und kein Microsoft & Co. wenn man aktuelle Modelle nutzt, dann geht das wunderbar lokal auf dem Rechner oder Server. Nutze seit einem halben Jahr keine Stock Images o.ä. mehr und als LLM nutze ich Olama lokal. Würde gerne meine Erfahrungen mit Ihnen austauschen, da ich fest davon überzeugt bin das wir durch KI den Traffic im Netz reduzieren können und somit den CO² Wert des Internets signifikant senken können. Bzgl. Kritischer Infrastruktur (KRITIS )ist Reanalogisierung und eine Nutzung von KI lokal und offline die beste Lösung (Nvidia Jetson o.ä.)
Ich sage immer wieder ,schaut euch Terminator mit Arnold Schwarzenegger an💯🙏
Leider wird der "Terminator" gerne benutzt, um ernst gemeinte Warnungen vor unkontrollierbarer KI als Science-Fiction und "Panikmache" zu verunglimpfen. Dabei ist das Skynet-Szenario aus heutiger Sicht leider gar nicht so unrealistisch, siehe futureoflife.org/project/artificial-escalation/
Die KI-Technik ist so genial, dass man hier nichts düsteres sehen muss. Was es aber unbedingt braucht, ist dass diese KIs fertig trainiert auf selbst gehosteten Servern betrieben werden können müssen! Denn ansonst ist das ein sehr unethischer Handel - Daten gegen Service, totale Überwachung gegen Service. Und Unternehemen werden auf diesen Service nicht verzichten können, weil einem sonst die Konkurrenz überholt.
Es müssten z.B. in der EU opensource Projekte finanziert werden (mit zig Milliarden Euros), die als output genau solche installierbaren Instanzen von KI hervorbringen.
"Die KI-Technik ist so genial, dass man hier nichts düsteres sehen muss." Das erscheint mir eine sehr naive Sichtweise. Es hat in der Geschichte der Menschheit noch keine Technologie gegeben, die nicht auch Schattenseiten hat. Ich stimme zu, dass die Konzentration bei einigen wenigen KI-Firmen unethisch und unfair ist, aber eine hoch gefährliche Technologie sollte auch nicht unbegrenzt OpenSource verfügbar sein. Um es klar zu sagen: Es gibt gute, ungefährliche KI-Anwendungen, die können gern auch OpenSource verfügbar sein. Aber es gibt Technologien, die nicht beliebig verbreitet werden dürfen, wie z.B. die Fähigkeit, tödliche Viren herzustellen, oder eben auch potenziell unkontrollierbare KI.
„Die KI-Technik ist so genial, dass man hier nichts düsteres sehen muss.“ Das hat man über Kernkraft am Anfang auch gesagt. Es wurden atomgetriebene Autos und sogar atomgetriebene Staubsauger vorausgesagt, weil diese Energie so genial war.
… oder einfach auch mal „Radium girls“ googlen. Solange man die Gefahren nicht versteht, ist immer alles toll.
@@chrysalis274 Es gab sogar einen Experimentierkasten für Kinder mit radioaktiven Materialien: en.wikipedia.org/wiki/Gilbert_U-238_Atomic_Energy_Laboratory
Danke für das Video!
Und was können wir tun?
www.ki-risiken.de/2024/05/20/was-k%C3%B6nnen-wir-tun/ (Ich werde in nächster Zeit auch noch ein Video darüber machen.)
danke für das video.. jedoch;
die grundlagen einer KI sind relativ einfach. komplizierter wirds erst, wenn leute beteiligt sind, die nur profit im sinn haben. aber das ist wohl mit jeder guten idee so, die viele menschen betrifft. irgendwann kommt das kapital und zerstört alles, weils nicht mehr um die verbreitung der idee geht, sondern um kurzfristigen, schnellen profit. auf kosten aller. so simpel ist das raubtier namens kaptialismus. und die demokratien sind seit jahren - jahrzehnten - in schockstarre. die einen sammeln die etwas größeren krümmel auf (politiker) und der rest des abendessens, der normalerweise in den müll wandert, bleibt dem rest der menschheit übrig.
ein knall ist nicht mehr zu verhindern. da wird KI unser geringstes problem sein^^. weil der knall sicher vor der manifestierung einer AGI passieren wird.
Die Grundlagen der KI sind einfach, aber KI ist kompliziert, auch ohne Kapitalismus. Der macht es allerdings nicht besser, da stimme ich zu.
Da kommt nicht „das Kapital“ und zerstört alles. Es reicht schon, dass ausreichend viele Menschen beteiligt sind, dann sind immer welche dabei, die ihre Macht ausbauen wollen, die anderen zu benachteiligen und so weiter. Menschen sind das Problem. Kommunismus ist auch recht einfach, aber leider mit Menschen nicht realisierbar.
Danke für diesen Beitrag!
Ich sehe das ähnlich, allerdings sehe ich momentan nirgendwo ein Licht am Ende des Tunnels.
Ich kann nur sagen, dass es schlecht ist, wenn solche Leute weggehen, denn dann ist niemand mehr da, der zumindest die Idee hat von dem, was im Video besprochen wurde. Ob er nun Geld dabei verliert .......
Ich glaube, es ist besser, wenn Jan Leike geht und Klartext redet, als wenn er bleibt und quasi als KI-Sicherheits-Feigenblatt missbraucht wird.
Safety? Noch nie von diesem Wort gehört ;-)
Der Mensch ist nicht ersetzbar, Angst habe nur die falschen Menschen.
aber entbehrlich ;)
Puhhhhhh! Verletzte Befindlichkeiten oder Eitelkeiten schlagen die üblichen Blüten.
Ich verstehe den Kommentar nicht. Wessen Befindlichkeiten wurden hier verletzt?
Wir müssen dafür sorgen ...
Ja und wie denn bitte ???!!!
www.ki-risiken.de/2024/05/20/was-k%C3%B6nnen-wir-tun/
Ja oder es is hald ne gute Möglichkeit, den Wert der Aktie zu steigern mit dem ganzen Theater. Ki ist hald wahrscheinlich der Überraschungsendgegner aber bis da hin dauerte noch ne Zeit.
Leider wissen wir nicht, wie viel Zeit uns bis dahin noch bleibt. Ich befürchte, es sind nur noch wenige Jahre, und ich bin damit nicht allein. www.reddit.com/r/singularity/comments/15pj5ky/leading_expert_in_ai_yoshua_bengio_it_started_to/
Skynet Incoming
war es nicht schon immer so, dass Maschinen die "einfachen" Arbeiten übernommen haben, sobald es einen technischen Sprung gab? desshalb kann ja der Arbeiter von heute vier mal so effektiv arbeiten, wie der von vor 80 Jahren.
wenn ich mir nur vorstelle, wie ätzend langweilig es ist eine Lochreihe zu bohren, da schmeißt man das Teil auf die CNC und das Programm dafür kommt direkt aus dem 3D Design Programm und muss auch nicht erst Hand zu Fuß geschrieben werden.
Kokotajlo sieht aus wie Cocktail auf Esperanto.
Und was können wir jetzt tun ?
ChatGPT fragen?
@@caipi3625 🤣
Keine einfache Frage. Ein kurzer Text dazu von mir: www.ki-risiken.de/2024/05/20/was-k%C3%B6nnen-wir-tun/ Mehr dazu folgt.
Sehr gutes Video. Vielen Dank.
Danke!
Tja. Ich denke die Lawine ist schon ausgelöst und nimmt Ihren Lauf. 😢
Hoffentlich gibt es genügend kluge Köpfe bei der Weiterentwicklung der AI sodass sich die künstliche Intelligenz sich niemals verselbständigt.
Wenn AGI auf übermenschliche Intelligenz kommt, wäre das also ob eine Bande Chimpansen versucht einen Menschen eingesperrt zu halten.
Das wünsche ich mir auch.
Das wirkt ja wie ein Beginn aus deinen Büchern
Ja, leider. Ich wollte eigentlich Science-Fiction-Romane schreiben, keine Sachbücher!!!
@@KarlOlsbergAutor schreib mir doch mal bitte eine Kurzgeschichte über Lottozahlen ;)
@@ronaldmcnoldas7616 Hier ist sie: 1, 2, 3, 4, 5, 6, Superzahl 7. Viel Glück!
Noch mal ich:
Habe ich den Bericht nur geträumt, Elon Musk kann sich vorstellen, daß Menschen sich einmal Chips in den Kopf einzubauen lassen, oder war das real?
Eine KI, die nichts als gefürchtet wird, lernt bald, davon zu profitieren. Gezwungenermaßen.
8:17 schlecht recherchiert. Sam Altman hat dazu bereits etwas gepostet, dass es so ein Vertrag garnicht geben sollte und alle die etwas der ähnliches unterzeichnet haben sollten sich an ihn direkt wenden! Quelle: X
Sam Altman sagt hier offensichtlich nicht die Wahrheit. Der Journalist Kelsey Piper, der in Vox über diese Verträge berichtet und sie selbst gelesen hat, hat entsprechende Auszüge auf Twitter veröffentlicht : x.com/KelseyTuoc/status/1791584341669396560 Er selbst nimmt Bezug auf Altmans Behauptung, er habe von solch einer Klausel nichts gewusst: x.com/KelseyTuoc/status/1791940668992172051 Mein ehemaliger Mentor beim AI Safety Camp, Daniel Kokotajlo, hat öffentlich erklärt, dass er eine entsprechende Klausel unterschrieben und auf seine Shares verzichtet hat: www.lesswrong.com/posts/kovCotfpTFWFXaxwi/simeon_c-s-shortform#G97BaFw83cvegttbv Es passt zu der Situation bei OpenAI, dass hier offenbar Nebelkerzen geworfen werden.
@@KarlOlsbergAutor Kuss vielen Dank und die Mühe die Quellen gleich mit zu verlinken
@@KarlOlsbergAutor ich hatte ja so eine Hoffnung in OAI gehabt...
@@sulracing9710 Ich auch!
Die Diskussion ist wichtig. Aber bisher habe ich noch keinen nicht-naiven Diskussionsbeitrag hierzu gesehen. Stattdessen polarisiert sich die US-Diskussion in e/accel und effective altruism und da hilft es nicht unbedingt, da von D aus Partei zu ergreifen ...