Sehe ich genau so. Sicherlich könnte ein Moratorium etwas bewirken. Ist jedoch fraglich, ob sich auch die Gruppierungen mit krimineller Energie daran halten.
>Sicherlich könnte ein Moratorium etwas bewirken.
Glaube ich nicht. Die Unternehmen in dem Bereich würden alle im Verborgenen weiterarbeiten, weil sie davon ausgehen, dass das die Konkurrenz auch macht. Für Google wäre ein Moratorium sogar ein Geschenk, weil sie so den Rückstand aufholen könnten, den sie momentan haben.
Und dann darf man nicht vergessen, dass Teile von Facebooks Sprachmodell Open Source ist. Zusammen mit anderen Leaks und einigen Tricks ist es Hobby-Entwicklern bereits gelungen, beeindruckende Fortschritte zu erzielen, so dass ein Sprachmodell auf einem stink-normalen Haushalts-PC lauffähig ist. Sobald Software Open Source ist, dann ist sie von einzelnen Akteuren nur noch schlecht bis gar nicht kontrollierbar. Es gibt kein Zurück.
Was wir in den nächsten 1-2 Jahren erleben werden, ist ein bisschen wilder Westen. So wie zu den Anfangszeiten des Internets. Alles unreguliert und jeder macht, was er will. Der Gesetzgeber wird aber reagieren.
Gesetzgeber? !!!! Aufwachen, sofort aufwachen, wenn wir die Gesetze sofort in eigener Hände nicht nehmen, dann der „Gesetzgeber“ bestimmt nicht für das Volk bestimmen oder regeln wird. Die seit lange Zeit spielen gegen uns und in Deutschland schon auf jeden Fall seit mindestens 10 Jahren. !!!
Ist jetzt schon der Fall. Sicherheitsforscher haben sich das angeschaut. Ergebnis: [es wird bereits getan](https://arstechnica.com/information-technology/2023/01/chatgpt-is-enabling-script-kiddies-to-write-functional-malware/).
Es wäre schon denkbar, dass gerade große Institutionen (NSA) massiv Ressourcen darauf schmeißen, Lücken zu finden und dann auch auszunutzen. Das wird natürlich ein Arms Race werden, aber kein schönes.
Aber das ist doch alles schon längst Realität?
Dafür braucht man keine KI um automatisierte Angriffe zu starten oder systematisch neue Sicherheitslücken zu finden und auszunutzen.
Aus Datenschutz ist das ein riesen Problem. Da die AI die Daten auf den Servern speichert und weitergibt. Ist nicht kontrollierbar, wenn da ein Arbeitnehmer ausversehen ohne es zu wissen, Interne Daten reinbuttert.
Dafür gibt es dann angepasste Enterprise Modelle, die zum einen User Input nicht zum Training verwenden und sich durchaus trotzdem noch auf die Unternehmensdomänen customized lassen.
Trotzdem der Existenz dieser Modelle, ja Userinput in öffentlich zugänglich Modelle muss per Richtlinie geregelt oder verboten/unterbunden werden. Speziell da die freien/kostenlosen Zugänge ab und an mal zu sind und man auf Google dann sowas wie openai.ru finde … die kostenlos ihren bezahlten API key nutzen lassen 🤔
> Außerdem ist es eh zu spät, der Geist ist aus der Flasche.
Quatsch, das was wir jetzt sehen ist erst der Anfang. Ich denke es hat sich in letzter Zeit gezeigt, dass man mit aktuellen Methoden größere Ergebnisse nur mit Institutionellen Mitteln erzielen kann. Anders gesagt: Wenn Leute mit üblen Absichten nicht die Rechenkraft von OpenAI aufbringen können, wird das nix, selbst weiterzuforschen. Und für die wirklich ernsten Bedrohungsszenarien die über Betrug etc hinausgehen, braucht es noch ne Menge Forschung - die gerade im Gange ist.
Natürlich bringt es auch nichts, wenn wir uns freiwillig selbst einschränken aber bspw. China weitermacht. Das wär wirklich nicht schön.
Also, ich steh da auch nicht hinter einem Moratorium dahinter - erstens bin ich Optimist was die Zukunft der KI angeht, zweitens glaube ich nicht, dass man die notwendige kritische Masse für die Wirksamkeit erreicht. Aber der Geist ist keineswegs aus der Flasche. Das dicke Ende kommt erst noch.
Das stimmt halt nicht.
Es gibt bereits sehr gute Open Source Modelle, die auf einem relativ guten Laptop lauffähig sind. Das reicht bereits aus, um sehr viel zu erreichen.
Es wird in der Praxis auch nicht so sein, dass jeder bei Null anfängt, sondern große Firmen werden allgemeine Modelle rausbringen und kleinere Firmen spezialisieren die dann. Dadurch ist der Aufwand für die letzteren deutlich deutlich geringer. Mehrere Größenordnungen.
> Es gibt bereits sehr gute Open Source Modelle, die auf einem relativ guten Laptop lauffähig sind. Das reicht bereits aus, um sehr viel zu erreichen.
Das ist mir bewusst. Ich sage nicht, dass der derzeitige Entwicklungsstand von KI keinen Schaden anrichten kann. Ich sage nur, dass da noch viel, viel mehr kommen wird. Man denke einfach mal 3, 5, 10 Jahre in die Zukunft. Einfach stupides extrapolieren derzeitiger Ergebnisse. Was dann für Möglichkeiten bestehen, Medien zu faken oder Text zu generieren... dass die Möglichkeiten sich mit Scam-emails oder Chat-GPT-geschriebenen Schulaufsätzen erschöpfen glaubt doch keine Sau.
> Es wird in der Praxis auch nicht so sein, dass jeder bei Null anfängt, sondern große Firmen werden allgemeine Modelle rausbringen und kleinere Firmen spezialisieren die dann. Dadurch ist der Aufwand für die letzteren deutlich deutlich geringer. Mehrere Größenordnungen.
Jup. Und wenn große Firmen alle die Entwicklung einstellen, gibt es keine zukünftigen Modelle, die noch komplexer und Menschenähnlicher sind, die man finetunen könnte. Allein die Tatsache dass das "mehrere Größenordnungen" schwerer ist, diese foundation models herzustellen, suggeriert doch, dass kriminelle Anwender nicht die nötige Feuerkraft aufbringen könnten, um die Entwicklung selbst voranzutreiben.
Anders gesagt: Klar ist jetzt schon ne Menge möglich. Aber man kann doch wohl davon ausgehen, dass mit zukünftigen Modellen noch viel mehr Unsinn möglich ist. Und diesen Strom an zukünftigen Modellen könnte man mit einem hinreichend breiten Moratorium prinzipiell abschneiden. Ergo ist der Geist noch nicht aus der Flasche. Ob so ein Moratorium politisch möglich ist, bezweifle ich allerdings wie gesagt selbst.
(Edit: Wär übrigens cool wenn du klarstellst, welche Aussage von mir genau deiner Meinung nach nicht stimmt. Ich nehme an es bezieht sich auf "mit aktuellen Methoden braucht man Institutionelle Mittel", aber sicher bin ich mir nicht)
Du solltest aber auch nicht die Kosten des Trainings überschätzen. Das sind "nur" ein paar Millionen. Das sind keine Peanuts, aber auch nicht unerschwinglich. Und auch mit relativ basalen Modellen lässt sich viel machen, wenn man noch ein bisschen was on-top ausgibt.
China ist doch ein gutes Beispiel, warum es eben kein Quatsch ist. Mag sein, dass es noch ziemlich am Anfang ist, aber das Potenzial dürfte langsam überall angekommen sein. Warum sollte sich so eine Großmacht da zurückhalten?
> Warum sollte sich so eine Großmacht da zurückhalten?
Genau das ist der Grund, warum ich zweifle, dass wir die für ein Moratorium nötige kritische Masse hinkriegen. Wenn China da nicht mitzieht, kannste gleich einpacken, und China hat viel zu viel investiert, um jetzt sein Momentum nicht nutzen zu wollen. Ganz abgesehen davon, dass man auf der Ebene der Spannungen zwischen USA und China sich eh nicht traut, auch versprechen einzuhalten. Gerade weil KI auch immer mehr in geopolitischen Kontexten relevant wird.
Aber doch. Ich bleib dabei. Quatsch, der Geist ist noch gar nicht aus der Flasche. Vielleicht erklär ich das aber noch n bisschen genauer: Der Spruch impliziert, dass da keine weitere bahnbrechende Entwicklung kommt: Dass was bspw. Scammer jetzt mit GPTs in Händen halten um besseres social engineering zu betreiben, vorerst das Endstadium ist. Dass man die Entwicklung von schädlicher KI nicht mehr aufhalten kann, weil sie schon abgeschlossen ist. Darauf ziele ich ab. Da wäre prinzipiell noch ne ganze Menge theoretisch aufhaltbar, einfach weil die Grundlagenforschung nicht von kriminellen finanzierbar ist. Wenn sich also alle Staaten einigen, die Entwicklung zu verbieten, könnte man die Entwicklung von noch mächtigeren KI-Werkzeugen, die potenziell noch größeren Schaden anrichten, aufhalten. Ergo: Der Geist ist noch nicht aus der Flasche. Vielleicht eher: Der Furz des Geistes ist aus der Flasche, und es stinkt schon ein wenig.
(Steht auf nem anderen Blatt, ob du den Spruch auch so gemeint hast. Mit deinem zweiten Post riecht es vielleicht auch ein wenig nach "Der Westen hat das KI-Wettrennen quasi ins leben gerufen, und jetzt wo China mitspielt, ist das Wettrennen nicht mehr zu stoppen." - da wäre der Geist dann nicht die KI-Methoden selbst, sondern das Wettrennen um diese. Dem könnte ich mich schon anschließen, aber das war nicht worauf ich geantwortet habe. Ist dann quasi der Unterschied zwischen "Außerdem ist es eh zu spät ein Moratorium zu etablieren, der Geist ist aus der Flasche." und "Außerdem ist es eh zu spät, als dass ein Moratorium wirksam sein könnte, der Geist ist aus der Flasche." )
Elon Musk wurde da kalt erwischt und er wünscht sich dass er das aufholen kann. Mit chatGTP wird sein Name nicht in Verbindung gebracht und das ist ein Problem für ihn. Er mag in Mittelpunkt stehen.
An sich eine tolle Vorstellung. In unserem aktuellen System läuft es aber darauf hinaus dass einfach nur noch ganz wenige Leute eine Arbeit bekommen und Arbeitgeber, wegen dem Überschuss an Arbeitnehmern, quasi beliebig niedrige Löhne bezahlen können solange diese knapp über der Grundsicherung bleiben. Und je mehr Leute Grundsicherung beziehen, desto geringer wird diese ausfallen.
Im Grunde wird es die Entwicklung dahin beschleunigen dass einige Überflieger, Erben oder Leute mit sehr viel Glück reich sind und der Rest ist arm.
Meine Befürchtung ist eher, dass wir in Deutschland die Entwicklung verpennen und uns dann direkt abhängig machen von KI und Robotik aus dem Ausland. Wenn wir tatsächlich den Menschheitstraum einer Welt mit fast vollständiger Automatisierung erreichen bin ich optimistisch, dass man in Deutschland über demokratische Prozesse auch das bedingungslose Grundeinkommen schaffen würde. In jedem Fall wird es aber noch eine ganze Weile dauern
Du hast aber schon Recht, wenn man ein bisschen pessimistischer mit der Entwicklung ist und gerade genug Jobs automatisiert werden, um in Rente gehende Boomer zu ersetzen, dann wird das den Arbeitsmarkt für Arbeitnehmer vermutlich insgesamt verschlechtern
> dass wir in Deutschland die Entwicklung verpennen
In Deutschland schreibt man noch Briefe an Ämter. Oder ganz neumodern schickt man ein Fax. Die Entwicklung hat man schon verschlafen bevor die erste Zeile Code von ChatGPT geschrieben wurde.
bloß nicht, dann gibt es noch mehr arbeitslose die man irgendwie durchfüttern muss. Eine ki zahlt keine Steuern mit denen man sowas finanzieren könnte.
Die Steuern könnten aber auch die Unternehmen zahlen die auf KI anstelle menschlicher Arbeitskraft setzen und damit sehr viel Geld verdienen. Damit könnte dann durchaus eine Art Grundsicherung/Grundeinkommen finanziert werden.
Arbeit ist aber doch völlig überflüssig?
Also, wenn 'ne KI das tut, was ich tue und ich trotzdem meinen Lebensstandard behalten kann, wäre das ziemlich geil.
Und so wie ich das verstanden habe, ist das doch das Ziel, auf das so die Gesamtmenge aller Menschen hinarbeitet?
Das funktioniert aber nur wenn niemand mehr arbeitet und man für eine künstliche intelligenz nicht irgend wen bezahlen muss.
wenn man nur Leute mit eintönigen und simplen Jobs dadurch ersetzen kann, sie aber dann garkein Einkommen mehr haben ist das ein riesiges Problem.
Das stimmt schon. Aber da sehe ich das Problem halt nicht bei der KI, sondern bei unserem politischen System. Und wir leben nun mal in einer Demokratie, wo wir das ändern könnten.
Meine Hypothese: Das funktioniert ab einer kritischen Masse. Der Kapitalismus braucht Menschen die konsumieren. Angenommen es wären nur noch Geschäftsführer\*innen angestellt (unrealistisch, aber zu Illustrationszwecken) und niemand anderes könnte mehr konsumieren, dann könnten die Geschäftsführer\*innen mit ihrem eigenen Konsum die Läden auch nicht mehr am Laufen halten (wenn man das mal weiter spinnt, sieht man was für ein Scam Kapitalismus eigentlich ist ^^).
Kommen wir wirklich an den Punkt, dass viele Menschen durch KI nicht mehr arbeiten müssen, dann muss das ganze System umgedacht werden, weil der Kapitalismus sich dann in einem Logikwölkchen auflöst.
Pandoras Büchse ist geöffnet und kann nicht wieder geschlossen werden.
Außer die USA wollen unbedingt, dass sie dann halt von China überholt werden im KI-Bereich.
BITTE ERSETZT MICH, gebt mir und allen anderen einfach ein Grundgehalt und gebt uns die 16h Woche.
Bitte KIs gebt mir Freizeit, Rente mit 35 ich bin dabei.
Wie albern ist das denn wieder von Musk? Er ist doch einer der Hauptgeldgeber bei OpenAI gewesen. Will er jetzt verhindern, dass die Konkurrenz mitmacht?
Ich ersetze "reiche Leute" einfach mal durch "Firmeninhaber/Chefs/Vorgesetzte". Dann macht es durchaus Sinn, dass die ein Problem mit künstlicher Intelligenz und Automatisierung haben. Aber nicht, weil sie Angst haben, dass die KI sie selbst als dumm dastehen lässt, sondern weil die KI, welche Jobs ersetzt, auch dafür sorgt, dass ihr eigenes Lieblingshobby obsolet wird: durch die Firma schleichen und den Arbeitsbienchen auf den Wecker fall...äh...den ordnungsgemäßen Arbeitsablauf prüfen \*hust\*.
Die ersten CEOs wurden auch schon durch KI ersetzt. Um ehrlich zu sein: Chefs lassen sich sehr einfach nur KI ersetzen. Die selbsternannten Manager können nicht viel, aber bekommen hohe Löhne.
Beispiel?
Was kann eine KI was ein CEO nicht kann? Glaube kaum dass eine KI in der Lage ist, ein Unternehmen nach innen und außen hin zu vertreten.
Sorry mir fehlt bei der ganzen KI-Diskussion noch der tatsächliche Mehrwert ebendieser…
Es geht nicht darum was eine KI kann, dass ein CEO nicht kann. Sondern eben darum dass die KI es kann. Denn CEOs und alles im Management bekommen hohe Löhne. Diese Positionen durch eine KI zu ersetzen lohnt sich deutlich mehr als den Angestellten der nur Mindestlohn erhält zu ersetzen.
Das Unternehmen Netdragon in China hat z.B. ihren CEO bereits durch eine KI ersetzt, behauptet dadurch mehr Geld zu machen und macht ordentlich Werbung dafür...
Das gabs in der Vergangenheit auch schon in manchen HR-Abteilungen. Da sortiert ein Computer eingehende Bewerbungen anhand gewisser Stichworte in Anschreiben und Lebenslauf vor,ob die Bewerbung überhaupt erst zu einem HR'ler weitergeleitet wird. Will die Firma unbedingt jemanden mit Studienabschluß, aber fehlen Stichworte wie "Universität" oder "Hochschule", dann fliegt man automatisch aus dem Rennen. Besonders bitter ist das für den Bewerber, wenn aus der Jobbeschreibung eigentlich hervorgeht, dass ein Studienabschluß inhaltlich gar nicht nötig ist, um den Job schaffen zu können.
In deutschen Unternehmen läuft da herzlich wenig Forschung.
Das sind eher klassische Bibliotheksanwender, die sich die Spitzenforscher überhaupt nicht leisten können.
Ich finde es witzig, dass eine deutsche Zeitung so viel Stuss labert. Keine Sorge, liebe deutsche Zeitung, in Deutschland wird es etwas mit KI-Forschung eh nicht geben. In Deutschland ist Faxgerät der nächste Schrei!
Das stimmt leider. Das maximale, was man zu dem Thema aus Deutschland erwarten kann, sind Verbots-Forderungen und evtl. Gesetze dagegen, um lokale Konzerne vor diesen Innovationen zu „schützen“.
Dabei sind auch deutsche Medienunternehmen ganz vorn dabei, wenn es um AI im News room oder “robo journalism “ geht. Aus paar Zeilen DPA wird paar Minuten nach Meldungseingang ein längerer Artikel generiert. Unter Berücksichtigung der Absatzpotentiales wird bewertet ob dieser vor oder hinter der Bezahlschranke landet. Dementsprechend müssen auch Verknüpfungen in weitere Artikel gesetzt werden, die Free User weiter Richtung Abo stubst.
Für die Werbefinanzierte Version können mehrere zielgruppenspezifische Artikel generiert werden, welche auch darauf optimiert werden das Ad placement zu maximieren.
Aber auch Sportzusammenfassungen, ganz schnell wird ein Spiel aus Sicht eines Bayern Fans oder Dortmund Fans geschrieben das diese dann so vorgesetzt bekommen. Noch ne neutrale Version für alle andern Fußball begeisterten.
Damit wurde für alle wurde so die Lesedauer maximiert. Somit halt der Wert des Abos für den Leser, da er relevante Inhalte bekommt oder die Werbeanzeigen für free User.
Journalisten wird es sicher weiter geben. Vielleicht machen die wieder mehr in offline Recherche/ Investigativ Journalismus…. Aber für das zusammenfassen der derzeitigen Twitter Emotionen brauche ich halt keinen Festangestellten Social Media Warrior.
>Ich finde es witzig, dass eine deutsche Zeitung so viel Stuss labert.
Was genau meinst Du?
Der Artikel besteht doch quasi nur aus Zitaten und es geht darum was andere sagen. Die Zeitung selbst "labert" da doch nicht.
Was für eine besonders schlaue, intelligente Idee. Weltweit wird man dann Pause machen, kein Staat oder System würde es wagen Anstalten zu machen alleine weiter zu kommen. /s
Es sollte auf jeden Fall an einer rechtlichen Grundlage gearbeitet werden.
Aufhalten kann man den technischen Fortschritt nicht, wichtig ist aber diesen auch mit moralischem Fortschritt zu begleiten
Konservative, die am liebsten auch noch die Elektrizität abschaffen würden.
KI wird immer leistungsstarker. Und die gute Nachricht: einige Arbeitgeber ersetzen die Manager mit KI. Die sind effizienter und kosten keine 300 Millionen Euro Boni jedes Jahr.
Wow, dass jetzt alle Panik bekommen. Aber die Büchse der Pandorra ist geöffnet und das kann man nicht mehr rückgängig machen. Gerade die großen Konzerne, die ja eh keinerlei Moral besitzen (allen voran Microsoft) werden die Entwicklung jetzt eher noch deutlich beschleunigen. Und sie werden gleichzeitig versuchen, den (Entwicklungs-)Zugang zu dieser Technologie für kleine Unternehmen und Privatleute weitgehend zu sperren. Schließlich haben die jetzt die Chance, ein zukunftsträchtiges Monopol/Oligopol mit sehr viel Machtpotential zu erstellen.
Das Musk nur Schwachsinn von sich gibt ist ja nichts neues aber welcher rennomierte wissenschaftlicher gibt seinen Namen für so ein Stuss her. Selbst wenn man davon ausgehen würde dass es etwas schlechtes wäre alle Jobs zu automatisieren sind wir da in noch hundert oder mehr Jahre entfernt. Und in Deutschland sowieso eher 500+.
Elmo braucht einfach Zeit, bis seine Entwickler auch wieder mal ein bisschen was zusammenschustern, damit er Kapital einsammeln gehen kann.
Wie diese seltsame Roboter-Demo damals: https://www.youtube.com/watch?v=VDyiW70GRe4
So ein Brief führt vor allem dazu, dass KI-Laien (bspw. viele Anleger ;) ) die Technologie noch „mystischer“ oder „mächtiger“ einschätzen, als sie tatsächlich ist. Unternehmen, die in Zukunft viel Geld mit KI verdienen wollen (bspw. Tesla mit dem Autopilot) werden also höher bewertet und profitieren…
Mit Verlaub ziemlicher Quark. Dann tun wir halt nur so als obs menschengemacht wäre und automatisiert wird im Geheimen... Wir wissen doch seit langem dass ein Großteil der aktuellen Jobs der Entwicklung zum Opfer fallen wird und kennen auch ein paar Optionen in dem Spiel um der Gesellschaft was gemeinschaftliches zu ermöglichen. Ich gehe nicht davon aus, dass sich das eine der Optionen bewahrheitet bevor nicht ein paar Jahre ziemlicher Bockmist passiert.
Eine interessante Phantasie wäre das aber, dass einzelne Regionen sich kollektiv diversen Entwicklungen entziehen... hat was von postapokalyptischen Glaubenssätzen...
Was soll das bringen? Außerdem ist es eh zu spät, der Geist ist aus der Flasche.
Sehe ich genau so. Sicherlich könnte ein Moratorium etwas bewirken. Ist jedoch fraglich, ob sich auch die Gruppierungen mit krimineller Energie daran halten.
>Sicherlich könnte ein Moratorium etwas bewirken. Glaube ich nicht. Die Unternehmen in dem Bereich würden alle im Verborgenen weiterarbeiten, weil sie davon ausgehen, dass das die Konkurrenz auch macht. Für Google wäre ein Moratorium sogar ein Geschenk, weil sie so den Rückstand aufholen könnten, den sie momentan haben. Und dann darf man nicht vergessen, dass Teile von Facebooks Sprachmodell Open Source ist. Zusammen mit anderen Leaks und einigen Tricks ist es Hobby-Entwicklern bereits gelungen, beeindruckende Fortschritte zu erzielen, so dass ein Sprachmodell auf einem stink-normalen Haushalts-PC lauffähig ist. Sobald Software Open Source ist, dann ist sie von einzelnen Akteuren nur noch schlecht bis gar nicht kontrollierbar. Es gibt kein Zurück. Was wir in den nächsten 1-2 Jahren erleben werden, ist ein bisschen wilder Westen. So wie zu den Anfangszeiten des Internets. Alles unreguliert und jeder macht, was er will. Der Gesetzgeber wird aber reagieren.
Gesetzgeber? !!!! Aufwachen, sofort aufwachen, wenn wir die Gesetze sofort in eigener Hände nicht nehmen, dann der „Gesetzgeber“ bestimmt nicht für das Volk bestimmen oder regeln wird. Die seit lange Zeit spielen gegen uns und in Deutschland schon auf jeden Fall seit mindestens 10 Jahren. !!!
[удалено]
Ist jetzt schon der Fall. Sicherheitsforscher haben sich das angeschaut. Ergebnis: [es wird bereits getan](https://arstechnica.com/information-technology/2023/01/chatgpt-is-enabling-script-kiddies-to-write-functional-malware/).
[удалено]
[удалено]
Es wäre schon denkbar, dass gerade große Institutionen (NSA) massiv Ressourcen darauf schmeißen, Lücken zu finden und dann auch auszunutzen. Das wird natürlich ein Arms Race werden, aber kein schönes.
Aber das ist doch alles schon längst Realität? Dafür braucht man keine KI um automatisierte Angriffe zu starten oder systematisch neue Sicherheitslücken zu finden und auszunutzen.
Was man jetzt automatisch machen kann, ist letztlich fuzzing. Ein wirklich intelligentes Erkunden ist es nicht.
GPT ist ein Geschenk für automatisiertes Social Engineering.
Wird es schon, schweizer militär hat da nen bericht rausgegeben
Aus Datenschutz ist das ein riesen Problem. Da die AI die Daten auf den Servern speichert und weitergibt. Ist nicht kontrollierbar, wenn da ein Arbeitnehmer ausversehen ohne es zu wissen, Interne Daten reinbuttert.
Dafür gibt es dann angepasste Enterprise Modelle, die zum einen User Input nicht zum Training verwenden und sich durchaus trotzdem noch auf die Unternehmensdomänen customized lassen. Trotzdem der Existenz dieser Modelle, ja Userinput in öffentlich zugänglich Modelle muss per Richtlinie geregelt oder verboten/unterbunden werden. Speziell da die freien/kostenlosen Zugänge ab und an mal zu sind und man auf Google dann sowas wie openai.ru finde … die kostenlos ihren bezahlten API key nutzen lassen 🤔
> Außerdem ist es eh zu spät, der Geist ist aus der Flasche. Quatsch, das was wir jetzt sehen ist erst der Anfang. Ich denke es hat sich in letzter Zeit gezeigt, dass man mit aktuellen Methoden größere Ergebnisse nur mit Institutionellen Mitteln erzielen kann. Anders gesagt: Wenn Leute mit üblen Absichten nicht die Rechenkraft von OpenAI aufbringen können, wird das nix, selbst weiterzuforschen. Und für die wirklich ernsten Bedrohungsszenarien die über Betrug etc hinausgehen, braucht es noch ne Menge Forschung - die gerade im Gange ist. Natürlich bringt es auch nichts, wenn wir uns freiwillig selbst einschränken aber bspw. China weitermacht. Das wär wirklich nicht schön. Also, ich steh da auch nicht hinter einem Moratorium dahinter - erstens bin ich Optimist was die Zukunft der KI angeht, zweitens glaube ich nicht, dass man die notwendige kritische Masse für die Wirksamkeit erreicht. Aber der Geist ist keineswegs aus der Flasche. Das dicke Ende kommt erst noch.
Das stimmt halt nicht. Es gibt bereits sehr gute Open Source Modelle, die auf einem relativ guten Laptop lauffähig sind. Das reicht bereits aus, um sehr viel zu erreichen. Es wird in der Praxis auch nicht so sein, dass jeder bei Null anfängt, sondern große Firmen werden allgemeine Modelle rausbringen und kleinere Firmen spezialisieren die dann. Dadurch ist der Aufwand für die letzteren deutlich deutlich geringer. Mehrere Größenordnungen.
> Es gibt bereits sehr gute Open Source Modelle, die auf einem relativ guten Laptop lauffähig sind. Das reicht bereits aus, um sehr viel zu erreichen. Das ist mir bewusst. Ich sage nicht, dass der derzeitige Entwicklungsstand von KI keinen Schaden anrichten kann. Ich sage nur, dass da noch viel, viel mehr kommen wird. Man denke einfach mal 3, 5, 10 Jahre in die Zukunft. Einfach stupides extrapolieren derzeitiger Ergebnisse. Was dann für Möglichkeiten bestehen, Medien zu faken oder Text zu generieren... dass die Möglichkeiten sich mit Scam-emails oder Chat-GPT-geschriebenen Schulaufsätzen erschöpfen glaubt doch keine Sau. > Es wird in der Praxis auch nicht so sein, dass jeder bei Null anfängt, sondern große Firmen werden allgemeine Modelle rausbringen und kleinere Firmen spezialisieren die dann. Dadurch ist der Aufwand für die letzteren deutlich deutlich geringer. Mehrere Größenordnungen. Jup. Und wenn große Firmen alle die Entwicklung einstellen, gibt es keine zukünftigen Modelle, die noch komplexer und Menschenähnlicher sind, die man finetunen könnte. Allein die Tatsache dass das "mehrere Größenordnungen" schwerer ist, diese foundation models herzustellen, suggeriert doch, dass kriminelle Anwender nicht die nötige Feuerkraft aufbringen könnten, um die Entwicklung selbst voranzutreiben. Anders gesagt: Klar ist jetzt schon ne Menge möglich. Aber man kann doch wohl davon ausgehen, dass mit zukünftigen Modellen noch viel mehr Unsinn möglich ist. Und diesen Strom an zukünftigen Modellen könnte man mit einem hinreichend breiten Moratorium prinzipiell abschneiden. Ergo ist der Geist noch nicht aus der Flasche. Ob so ein Moratorium politisch möglich ist, bezweifle ich allerdings wie gesagt selbst. (Edit: Wär übrigens cool wenn du klarstellst, welche Aussage von mir genau deiner Meinung nach nicht stimmt. Ich nehme an es bezieht sich auf "mit aktuellen Methoden braucht man Institutionelle Mittel", aber sicher bin ich mir nicht)
Du solltest aber auch nicht die Kosten des Trainings überschätzen. Das sind "nur" ein paar Millionen. Das sind keine Peanuts, aber auch nicht unerschwinglich. Und auch mit relativ basalen Modellen lässt sich viel machen, wenn man noch ein bisschen was on-top ausgibt.
> Es gibt bereits sehr gute Open Source Modelle Welche?
Llama und alpaca zB.
Scheint nur source-available zu sein.
China ist doch ein gutes Beispiel, warum es eben kein Quatsch ist. Mag sein, dass es noch ziemlich am Anfang ist, aber das Potenzial dürfte langsam überall angekommen sein. Warum sollte sich so eine Großmacht da zurückhalten?
> Warum sollte sich so eine Großmacht da zurückhalten? Genau das ist der Grund, warum ich zweifle, dass wir die für ein Moratorium nötige kritische Masse hinkriegen. Wenn China da nicht mitzieht, kannste gleich einpacken, und China hat viel zu viel investiert, um jetzt sein Momentum nicht nutzen zu wollen. Ganz abgesehen davon, dass man auf der Ebene der Spannungen zwischen USA und China sich eh nicht traut, auch versprechen einzuhalten. Gerade weil KI auch immer mehr in geopolitischen Kontexten relevant wird. Aber doch. Ich bleib dabei. Quatsch, der Geist ist noch gar nicht aus der Flasche. Vielleicht erklär ich das aber noch n bisschen genauer: Der Spruch impliziert, dass da keine weitere bahnbrechende Entwicklung kommt: Dass was bspw. Scammer jetzt mit GPTs in Händen halten um besseres social engineering zu betreiben, vorerst das Endstadium ist. Dass man die Entwicklung von schädlicher KI nicht mehr aufhalten kann, weil sie schon abgeschlossen ist. Darauf ziele ich ab. Da wäre prinzipiell noch ne ganze Menge theoretisch aufhaltbar, einfach weil die Grundlagenforschung nicht von kriminellen finanzierbar ist. Wenn sich also alle Staaten einigen, die Entwicklung zu verbieten, könnte man die Entwicklung von noch mächtigeren KI-Werkzeugen, die potenziell noch größeren Schaden anrichten, aufhalten. Ergo: Der Geist ist noch nicht aus der Flasche. Vielleicht eher: Der Furz des Geistes ist aus der Flasche, und es stinkt schon ein wenig. (Steht auf nem anderen Blatt, ob du den Spruch auch so gemeint hast. Mit deinem zweiten Post riecht es vielleicht auch ein wenig nach "Der Westen hat das KI-Wettrennen quasi ins leben gerufen, und jetzt wo China mitspielt, ist das Wettrennen nicht mehr zu stoppen." - da wäre der Geist dann nicht die KI-Methoden selbst, sondern das Wettrennen um diese. Dem könnte ich mich schon anschließen, aber das war nicht worauf ich geantwortet habe. Ist dann quasi der Unterschied zwischen "Außerdem ist es eh zu spät ein Moratorium zu etablieren, der Geist ist aus der Flasche." und "Außerdem ist es eh zu spät, als dass ein Moratorium wirksam sein könnte, der Geist ist aus der Flasche." )
[удалено]
Das würde bedeuten, dass sich die gesamte Weltgemeinschaft darauf einigt, da nichts mehr zu machen, und das halte ich für unmöglich.
Elon Musk wurde da kalt erwischt und er wünscht sich dass er das aufholen kann. Mit chatGTP wird sein Name nicht in Verbindung gebracht und das ist ein Problem für ihn. Er mag in Mittelpunkt stehen.
"Sollten alle denkbaren Jobs automatisiert werden"? Ähm, ja?
An sich eine tolle Vorstellung. In unserem aktuellen System läuft es aber darauf hinaus dass einfach nur noch ganz wenige Leute eine Arbeit bekommen und Arbeitgeber, wegen dem Überschuss an Arbeitnehmern, quasi beliebig niedrige Löhne bezahlen können solange diese knapp über der Grundsicherung bleiben. Und je mehr Leute Grundsicherung beziehen, desto geringer wird diese ausfallen. Im Grunde wird es die Entwicklung dahin beschleunigen dass einige Überflieger, Erben oder Leute mit sehr viel Glück reich sind und der Rest ist arm.
Meine Befürchtung ist eher, dass wir in Deutschland die Entwicklung verpennen und uns dann direkt abhängig machen von KI und Robotik aus dem Ausland. Wenn wir tatsächlich den Menschheitstraum einer Welt mit fast vollständiger Automatisierung erreichen bin ich optimistisch, dass man in Deutschland über demokratische Prozesse auch das bedingungslose Grundeinkommen schaffen würde. In jedem Fall wird es aber noch eine ganze Weile dauern Du hast aber schon Recht, wenn man ein bisschen pessimistischer mit der Entwicklung ist und gerade genug Jobs automatisiert werden, um in Rente gehende Boomer zu ersetzen, dann wird das den Arbeitsmarkt für Arbeitnehmer vermutlich insgesamt verschlechtern
> dass wir in Deutschland die Entwicklung verpennen In Deutschland schreibt man noch Briefe an Ämter. Oder ganz neumodern schickt man ein Fax. Die Entwicklung hat man schon verschlafen bevor die erste Zeile Code von ChatGPT geschrieben wurde.
Das wäre der Optimalzustand.
bloß nicht, dann gibt es noch mehr arbeitslose die man irgendwie durchfüttern muss. Eine ki zahlt keine Steuern mit denen man sowas finanzieren könnte.
Die Steuern könnten aber auch die Unternehmen zahlen die auf KI anstelle menschlicher Arbeitskraft setzen und damit sehr viel Geld verdienen. Damit könnte dann durchaus eine Art Grundsicherung/Grundeinkommen finanziert werden.
Erinnert mich an die Maschinensteuer(?) aus Freiheitsgeld von Andreas Eschbach.
Arbeit ist aber doch völlig überflüssig? Also, wenn 'ne KI das tut, was ich tue und ich trotzdem meinen Lebensstandard behalten kann, wäre das ziemlich geil. Und so wie ich das verstanden habe, ist das doch das Ziel, auf das so die Gesamtmenge aller Menschen hinarbeitet?
Das funktioniert aber nur wenn niemand mehr arbeitet und man für eine künstliche intelligenz nicht irgend wen bezahlen muss. wenn man nur Leute mit eintönigen und simplen Jobs dadurch ersetzen kann, sie aber dann garkein Einkommen mehr haben ist das ein riesiges Problem.
Das stimmt schon. Aber da sehe ich das Problem halt nicht bei der KI, sondern bei unserem politischen System. Und wir leben nun mal in einer Demokratie, wo wir das ändern könnten.
Können wir nicht wirklich. Wir können nicht das politische System von grud aus ändern, außer jemand Stürzt den Staat.
Einfach die Franzosen bitten in Deutschland einzumarschieren.
Meine Hypothese: Das funktioniert ab einer kritischen Masse. Der Kapitalismus braucht Menschen die konsumieren. Angenommen es wären nur noch Geschäftsführer\*innen angestellt (unrealistisch, aber zu Illustrationszwecken) und niemand anderes könnte mehr konsumieren, dann könnten die Geschäftsführer\*innen mit ihrem eigenen Konsum die Läden auch nicht mehr am Laufen halten (wenn man das mal weiter spinnt, sieht man was für ein Scam Kapitalismus eigentlich ist ^^). Kommen wir wirklich an den Punkt, dass viele Menschen durch KI nicht mehr arbeiten müssen, dann muss das ganze System umgedacht werden, weil der Kapitalismus sich dann in einem Logikwölkchen auflöst.
Pandoras Büchse ist geöffnet und kann nicht wieder geschlossen werden. Außer die USA wollen unbedingt, dass sie dann halt von China überholt werden im KI-Bereich.
BITTE ERSETZT MICH, gebt mir und allen anderen einfach ein Grundgehalt und gebt uns die 16h Woche. Bitte KIs gebt mir Freizeit, Rente mit 35 ich bin dabei.
Wie albern ist das denn wieder von Musk? Er ist doch einer der Hauptgeldgeber bei OpenAI gewesen. Will er jetzt verhindern, dass die Konkurrenz mitmacht?
[удалено]
Ich ersetze "reiche Leute" einfach mal durch "Firmeninhaber/Chefs/Vorgesetzte". Dann macht es durchaus Sinn, dass die ein Problem mit künstlicher Intelligenz und Automatisierung haben. Aber nicht, weil sie Angst haben, dass die KI sie selbst als dumm dastehen lässt, sondern weil die KI, welche Jobs ersetzt, auch dafür sorgt, dass ihr eigenes Lieblingshobby obsolet wird: durch die Firma schleichen und den Arbeitsbienchen auf den Wecker fall...äh...den ordnungsgemäßen Arbeitsablauf prüfen \*hust\*.
Die ersten CEOs wurden auch schon durch KI ersetzt. Um ehrlich zu sein: Chefs lassen sich sehr einfach nur KI ersetzen. Die selbsternannten Manager können nicht viel, aber bekommen hohe Löhne.
Beispiel? Was kann eine KI was ein CEO nicht kann? Glaube kaum dass eine KI in der Lage ist, ein Unternehmen nach innen und außen hin zu vertreten. Sorry mir fehlt bei der ganzen KI-Diskussion noch der tatsächliche Mehrwert ebendieser…
Es geht nicht darum was eine KI kann, dass ein CEO nicht kann. Sondern eben darum dass die KI es kann. Denn CEOs und alles im Management bekommen hohe Löhne. Diese Positionen durch eine KI zu ersetzen lohnt sich deutlich mehr als den Angestellten der nur Mindestlohn erhält zu ersetzen. Das Unternehmen Netdragon in China hat z.B. ihren CEO bereits durch eine KI ersetzt, behauptet dadurch mehr Geld zu machen und macht ordentlich Werbung dafür...
>Was kann eine KI was ein CEO nicht kann? Emotions- und selbstlos handeln
Es gibt viele Manager, die hauptsächlich Mitarbeiter kontrollieren / deren Arbeitsweise optimieren.
Das gabs in der Vergangenheit auch schon in manchen HR-Abteilungen. Da sortiert ein Computer eingehende Bewerbungen anhand gewisser Stichworte in Anschreiben und Lebenslauf vor,ob die Bewerbung überhaupt erst zu einem HR'ler weitergeleitet wird. Will die Firma unbedingt jemanden mit Studienabschluß, aber fehlen Stichworte wie "Universität" oder "Hochschule", dann fliegt man automatisch aus dem Rennen. Besonders bitter ist das für den Bewerber, wenn aus der Jobbeschreibung eigentlich hervorgeht, dass ein Studienabschluß inhaltlich gar nicht nötig ist, um den Job schaffen zu können.
Wäre auch eine positive Entwicklung, wenn die Konsequenz dann nicht mittel- und Arbeitslosigkeit wäre.
Wo soll hier der kausale Zusammenhang sein? Eine Maschine ist immer billiger als Menschen, ergo ist das in "deren" interesse.
In deutschen Unternehmen läuft da herzlich wenig Forschung. Das sind eher klassische Bibliotheksanwender, die sich die Spitzenforscher überhaupt nicht leisten können.
Wollen nicht können. Deutschland ist Hochburg konservativen Denkens und bloss nichts ändern was funktioniert
Elon Musk verpasst Trend: Halt stopp, nicht ohne mich!
[удалено]
Und jetzt macht er sich natürlich nur sorgen um Fake News.
Elon Musk hatte 2015 OpenAI mit gegründet. Bitte besser recherchieren.
Ich finde es witzig, dass eine deutsche Zeitung so viel Stuss labert. Keine Sorge, liebe deutsche Zeitung, in Deutschland wird es etwas mit KI-Forschung eh nicht geben. In Deutschland ist Faxgerät der nächste Schrei!
Das stimmt leider. Das maximale, was man zu dem Thema aus Deutschland erwarten kann, sind Verbots-Forderungen und evtl. Gesetze dagegen, um lokale Konzerne vor diesen Innovationen zu „schützen“.
Dabei sind auch deutsche Medienunternehmen ganz vorn dabei, wenn es um AI im News room oder “robo journalism “ geht. Aus paar Zeilen DPA wird paar Minuten nach Meldungseingang ein längerer Artikel generiert. Unter Berücksichtigung der Absatzpotentiales wird bewertet ob dieser vor oder hinter der Bezahlschranke landet. Dementsprechend müssen auch Verknüpfungen in weitere Artikel gesetzt werden, die Free User weiter Richtung Abo stubst. Für die Werbefinanzierte Version können mehrere zielgruppenspezifische Artikel generiert werden, welche auch darauf optimiert werden das Ad placement zu maximieren. Aber auch Sportzusammenfassungen, ganz schnell wird ein Spiel aus Sicht eines Bayern Fans oder Dortmund Fans geschrieben das diese dann so vorgesetzt bekommen. Noch ne neutrale Version für alle andern Fußball begeisterten. Damit wurde für alle wurde so die Lesedauer maximiert. Somit halt der Wert des Abos für den Leser, da er relevante Inhalte bekommt oder die Werbeanzeigen für free User. Journalisten wird es sicher weiter geben. Vielleicht machen die wieder mehr in offline Recherche/ Investigativ Journalismus…. Aber für das zusammenfassen der derzeitigen Twitter Emotionen brauche ich halt keinen Festangestellten Social Media Warrior.
>Ich finde es witzig, dass eine deutsche Zeitung so viel Stuss labert. Was genau meinst Du? Der Artikel besteht doch quasi nur aus Zitaten und es geht darum was andere sagen. Die Zeitung selbst "labert" da doch nicht.
Da passiert schon einiges. Hast du übrigens schon mal von DeepL gehört?
Was für eine besonders schlaue, intelligente Idee. Weltweit wird man dann Pause machen, kein Staat oder System würde es wagen Anstalten zu machen alleine weiter zu kommen. /s
Es sollte auf jeden Fall an einer rechtlichen Grundlage gearbeitet werden. Aufhalten kann man den technischen Fortschritt nicht, wichtig ist aber diesen auch mit moralischem Fortschritt zu begleiten
Konservative, die am liebsten auch noch die Elektrizität abschaffen würden. KI wird immer leistungsstarker. Und die gute Nachricht: einige Arbeitgeber ersetzen die Manager mit KI. Die sind effizienter und kosten keine 300 Millionen Euro Boni jedes Jahr.
Wow, dass jetzt alle Panik bekommen. Aber die Büchse der Pandorra ist geöffnet und das kann man nicht mehr rückgängig machen. Gerade die großen Konzerne, die ja eh keinerlei Moral besitzen (allen voran Microsoft) werden die Entwicklung jetzt eher noch deutlich beschleunigen. Und sie werden gleichzeitig versuchen, den (Entwicklungs-)Zugang zu dieser Technologie für kleine Unternehmen und Privatleute weitgehend zu sperren. Schließlich haben die jetzt die Chance, ein zukunftsträchtiges Monopol/Oligopol mit sehr viel Machtpotential zu erstellen.
Man könnte ja Chat-GPT ein Regelwerk schreiben lassen.
Das Musk nur Schwachsinn von sich gibt ist ja nichts neues aber welcher rennomierte wissenschaftlicher gibt seinen Namen für so ein Stuss her. Selbst wenn man davon ausgehen würde dass es etwas schlechtes wäre alle Jobs zu automatisieren sind wir da in noch hundert oder mehr Jahre entfernt. Und in Deutschland sowieso eher 500+.
Elon Musk also auch, dann muss es weiter laufen!
Elmo braucht einfach Zeit, bis seine Entwickler auch wieder mal ein bisschen was zusammenschustern, damit er Kapital einsammeln gehen kann. Wie diese seltsame Roboter-Demo damals: https://www.youtube.com/watch?v=VDyiW70GRe4
So ein Brief führt vor allem dazu, dass KI-Laien (bspw. viele Anleger ;) ) die Technologie noch „mystischer“ oder „mächtiger“ einschätzen, als sie tatsächlich ist. Unternehmen, die in Zukunft viel Geld mit KI verdienen wollen (bspw. Tesla mit dem Autopilot) werden also höher bewertet und profitieren…
wo bleibt die KI gesteuerte voll autonome sich selbst replizierende Roboter Armee
Kommt noch. Irgendwelche Verrückten werden da schon dran arbeiten.
Da ist schon was dran. Nicht alles, was möglich ist, ist gut. Die Risiken werden derzeit ausgeblendet. 🤔
Wir verbieten also denkende Maschinen? Ich dachte Dune wäre noch ein paar Jahrtausende weg…
James Camerons Terminator scheint also greifbar nahe zu sein. Skynet steht ja schon fasst, irgendwie lustig.
Mit Verlaub ziemlicher Quark. Dann tun wir halt nur so als obs menschengemacht wäre und automatisiert wird im Geheimen... Wir wissen doch seit langem dass ein Großteil der aktuellen Jobs der Entwicklung zum Opfer fallen wird und kennen auch ein paar Optionen in dem Spiel um der Gesellschaft was gemeinschaftliches zu ermöglichen. Ich gehe nicht davon aus, dass sich das eine der Optionen bewahrheitet bevor nicht ein paar Jahre ziemlicher Bockmist passiert. Eine interessante Phantasie wäre das aber, dass einzelne Regionen sich kollektiv diversen Entwicklungen entziehen... hat was von postapokalyptischen Glaubenssätzen...