44
Was ist euer Projekt zum heutigen Digital Independence Day? (feddit.org)
submitted 1 week ago by to c/dach@feddit.org
57 comments fedilink hide all child comments
 

Die August-Ausgabe. Es ist schon August? Keine Ahnung, wieso der letzte Monat so schnell verdampft ist. Aber die Frage ist die gleiche: Was habt ihr diesen Monat gemacht, um digital unabhängiger zu werden? Was plant ihr?

(bei mir war es etwas ruhiger. Ich hab den Proxmox upgegradet und mir dort ein selbstgehostetes n8n aufgesetzt. Das macht eigentlich einen ganz guten Eindruck, ich hab aber irgendwie das Gefühl, dass das mit der Firma so im Hintergrund nicht ewig gut gehen wird)

you are viewing a single comment's thread
view the rest of the comments
[–] 2 points 1 week ago (1 child)

Auch der techstack oder anders? Hatte am Anfang ollama, aber llamacpp macht mir einen performanteren Eindruck, wenn man ein Modell exklusiv nutzen mochte.

Zum Thema vibecoding sehe ich genauso, aber für Tasks die man nicht so gerne machen möchte geht es zumindest mit gemma4 echt gut. Will morgen mal gucken, ob ich Infrastrukturaufgaben abgeben kann. Haben ein paar Skripte mit denen alle unzufrieden sind, aber keiner Lust und Zeit hat diese zu überarbeiten. Danach will ich auch mal sehen, ob es reviews von pull requests machen kann und eine erste Einschätzung machen kann. Vll. auch refactorings vorschlagen kann.

  • permalink
  • fedilink
  • source
  • parent
  • hideshow 2 child comments
    •
  • [–] 2 points 1 week ago

    ollama soll wohl schlechtere Performance als llama.cpp haben, wenn man RAM und VRAM kombiniert, aber es gibt viele widersprüchliche Aussagen (und KI-generierte) Artikel die beide miteinander vergleichen.

    Selbst getestet habe ich es noch nicht. ollama war am einfachsten für mich aufzusetzen - einfach das Binary (und das AMD rocm-Paket) runterladen, ollama serve eingeben, fertig. Ich benutze ollama mit webstorm als Harness, da kann man das direkt ins KI-Plugin integrieren. Es kann dort wohl auch für Tab Completion genutzt werden, das Feature verwende ich allerdings nicht, da es mehr stört als nutzt.

  • permalink
  • fedilink
  • source
  • parent