Halløj, jeg går og tænker over at omdanne min bærbar med linux til en medieserver som altid er koblet til fjernsynet. I den forbindelse (og andre) kunne det være rart med noget LLM hjælp til at grave og ændre i konfig osv.

Kan i anbefale et LLM agent setup (behøver ikke være lokal) som kan lave systemkald, så den selv kan finde ud af info den har brug for for at svare på spørgsmål og lave konfig ændringer? Eller synes i at det giver mest mening bare at spørge i en browser og selv kopiere kommandoer i en terminal? Mange tak

Jeg har bare brugt VSCode connected til Claude eller Mistral - men ellers er Mistral specielt ret god til at debugge step by step via normal chat

Samme her.

Ellers overvej OpenCode, Jan.ai, eller Unsloth, hvis du søger et alternativt lokalt/API harness.

Når du bruger en bærbar med skærm osv, så kan du nemt installere en agent CLI på den bærbar og bede den om at gøre det der skal gøres. Du kan bruge Codex, Claude code, opencode, osv. Du kan vist via de tre CLI'er slå plan mode til, og så burde den ikke selv udføre nogle kommandoer der ændrer noget på din PC, og så kan du fx selv køre de scripts for agenten og arbejde på den måde.

Hvis du ikke har noget at miste på den bærbar, så ville jeg bare sætte agenten igang med at fikse det den skal uden du behøver at indblandes for meget, hvis du alligevel ikke ønsker det.

Der er altid en risiko for at en LLM laver noget mærkeligt. Personligt ville jeg nok køre kommandoerne selv, men at bruge OpenCode i Plan mode synes jeg er ok. Fx med DeepSeek 4.1, den er blevet gratis nu om dage.

Hvis du ender med at bruge en ekstern AI, så tag et kig på OdinCore.ai eller GDPRchat.eu

Ordbogen.com står bag OdinCore og er rent dansk AI, med egne modeller og det hele.

Ny version af DeepSeek 4.1 Flash er på trapperne: https://huggingface.co/deepseek-ai/DeepSeek-V4.1-Flash-1017

Den er allerede opdateret på opencode og stadig gratis :)

Nej nej, det er stadig deres preview/snapshot for oktober. 🫠 Enten skal deres DeepSeek-V4.1-Flash opdateres, eller også skal den hedde DeepSeek-V4.2-Flash.

Men det er jo det samme? Version 1017 er jo bare det der snapshot? Medmindre der er et eller andet jeg misforstår helt.

Siger bare, det er to forskellige modeller, du kan køre i øjeblikket.

• deepseek-v4.1-flash er fra september.
• deepseek-v4.1-flash-1017 er et fire dage gammelt snapshot, der yder bedre

https://openrouter.ai/compare/deepseek/deepseek-v4.1-flash/deepseek/deepseek-v4.1-flash-1017

Selvom LM Studio Bionic ikke er open source (så vidt jeg ved? selvom de har et omfattende GH repo), så er det alligevel den mest stabile lokale måde at bruge LLM på jeg har brugt indtil videre - som en med et nvidia kort på linux.
Unsloth ser dog godt ud, kan være jeg skal prøve det.
Jan.ai og Alpaca har jeg kun haft problemer med.

Puha, 108 GiB.. Hardwaren for at køre den model må koste det samme som en ny bil.