Das Verrückte ist ja, dass es bisher kaum einen wirklich objektiv nachweisbaren Nutzen von dieser Art KI, den "generativen AI" und Large Language Models (LLMs) gibt. (Abgesehen vom Finden von Sicherheitslücken in Software).

Anders als die vielen "traditionellen" KI Algorithmen, die handgeschriebene Adressen auf Briefen erkennen, Reiserouten und Verkehrsverbindungen planen, Gleichungen mit Suchverfahren lösen, Prozesse und Logistik optimieren, Röntgenbilder auf Anzeichen von Krebs screenen, und so fort.

you are viewing a single comment's thread
view the rest of the comments
[–] 1 point 13 hours ago* (1 child)

Modelle veralten ziemlich schnell und gerade in der IT & Programmierung dreht sich die Welt weiter - es kommen ständig neue Tools, Frameworks und Programmiersprachen raus. Wir brauchen also regelmäßig Updates wenn wir moderne Software schreiben wollen, da macht es keinen Sinn mit zwei Jahre alten Modellen zu arbeiten.

Es ist also komplett scheißegal wieviel Strom dein Macbook zieht, wenn Alibaba entscheidet, dass sie kein neues qwen mehr raushauen, weil ihnen das zu teuer ist, bist du am Arsch.

lassen sich bereits auf Oberklasse Hardware lokal ausführen

Auch hier würde ich mal die Kirche im Dorf lassen. Niemand außer, nennen wir es mal Enthusiasten, wird sich ein Macbook Pro mit 128GB RAM für ~8.000€ kaufen, um darauf große lokale Modelle laufenzulassen.

Es wird nicht wieder verschwinden

Hab' ich auch nicht behauptet. Nach dem Platzen der Blase ist jedoch sehr fraglich, wer überhaupt noch Modelle trainieren wird und zu welchen Kosten. Und ich habe mich speziell auf Auswüchse wie Loops bezogen, bei denen Agenten sozusagen endlos im Kreis laufen, sowas kannst du auf lokaler Hardware nicht gut machen und im Rechenzentrum kostet es eigentlich richtig viel Geld.

Das größte Problem an dem ganzen KI-Hype ist, dass die tatsächlichen Kosten bei den großen Anbietern subventioniert werden. Nur dadurch, dass jemand für uns das Geld ausgibt, konnten solche Dinge wie agentic coding, loops und "Hey, ich schreib mal eine ganze Software komplett in eine andere Programmiersprache um" überhaupt erst entstehen. Und ich bleibe dabei: Vieles davon wird wieder verschwinden, die wenigsten werden mehrere tausend Euro für einen glorifizierten Chatbot ausgeben, um umfangreiche Software zu schreiben.

Ich wiederhole mich, aber wir werden sehen, welche Arbeitsweisen nach dem Platzen der Blase noch übrigbleiben werden - und einiges von dem was du angesprochen hast, wird finanziell nicht mehr machbar sein (z.B. das komplette Neuschreiben von Software).

  • source
  • parent
  • hideshow 2 child comments
  • [–] 1 point 5 hours ago (1 child)

    Niemand außer, nennen wir es mal Enthusiasten, wird sich ein Macbook Pro mit 128GB RAM für ~8.000€ kaufen, um darauf große lokale Modelle laufenzulassen.

    Ja, was dachtest du was ich mit Oberklasse Hardware meine? Und was du verkennst ist, dass 128 GB RAM heute zu teuer und oversized sind, aber un Zukunft völliger Standard werden. Insbesondere wenn die Blase platzt, wird es einen Überfluss an Speicher geben. Dass Apple 16 GB Speicher in jedes iPhone packt hätte vor kurzem auch niemand geglaubt.

    Vieles davon wird wieder verschwinden, die wenigsten werden mehrere tausend Euro für einen glorifizierten Chatbot ausgeben, um umfangreiche Software zu schreiben.

    Korrekt, die werden stattdessen einige hundert Euro ausgeben, um umfangreiche Software neu zu schreiben. Speicherhersteller sind noch dabei Kapazitäten aufzubauen, die verschwinden nicht wieder.

    Auf Reddit würde ich jetzt den RemindMe Bot bemühen, mir in 5 Jahren Bescheid zu geben.

  • source
  • parent
  • hideshow 2 child comments
  • [–] 0 points 3 hours ago*

    Und was du verkennst ist, dass 128 GB RAM heute zu teuer und oversized sind, aber un Zukunft völliger Standard werden.

    Genau, und Apple wird aus der puren Güte ihres Herzens die Macbooks in Zukunft auch nur noch für 1/4 des aktuellen Preises anbieten, sodass jeder lokale KI betreiben kann.

    Dein Nutzername ist auch wirklich Programm, besonders weil du auf meine restlichen Kritikpunkte ja gar nicht wirklich eingehst. 08/15 KI-Booster.

  • source
  • parent