"Vi sætter bare et menneske ind i loopet" er blevet standardsvaret, når compliance spørger til risici. Men hvad nu hvis det gør tingene værre?

I det her soloafsnit tager Dan Rose fat på Human in the Loop – et begreb, der er vokset eksplosivt og er skrevet direkte ind i EU's AI Act, men som forskning viser gang på gang kan sænke kvaliteten, forværre bias og reducere dygtige medarbejdere til juridiske stødpuder.

Dan kommer ind på:

Præstationsparadokset:
Hvorfor menneske plus AI ikke altid giver det bedste resultat – og hvornår AI faktisk klarer sig bedre alene.

De kognitive faldgrupper:
Vigilance decrement, belejlighedsbias, forankringsbias og bekræftelsesbias – og hvad de gør ved dine medarbejdere, når de sættes til at godkende AI-output.

Den moralske deformationszone:
Hvorfor Human in the Loop alt for ofte er et "cover your ass"-værktøj, der placerer ansvaret hos medarbejderen uden at give dem reel kontrol.

Tre konkrete designgreb: Kognitiv tvangsfunktion, delegation inversion og kortet vs. terrænet – sådan bygger du workflows, der rent faktisk virker.

Har du ønsker til emner eller gæster? Skriv til dan.rose@todai.ai

Kildeliste:

Human-AI Synergy (MIT, 2025): Når mennesker gør AI dårligere:
https://mitsloan.mit.edu/ideas-made-to-matter/when-humans-and-ai-work-best-together-and-when-each-better-alone

Ansvarshuller (AU, 2023): Hvorfor det er uetisk at give medarbejderen ansvaret for AI-fejl:
https://link.springer.com/article/10.1007/s10676-023-09699-6

Manglende Metaviden (2022): Vi er dårlige til at vurdere, hvornår vi skal stole på maskinen:
https://pubsonline.informs.org/doi/10.1287/isre.2021.1079

Kognitive Tvangsfunktioner: Fartbump der tvinger os til selv at tænke:
Studie 1: https://arxiv.org/abs/2101.04517

Studie 2: https://arxiv.org/abs/2402.16279

Moral Crumple Zones (2019): Mennesket som "deformationszone" når teknikken fejler:
https://estsjournal.org/index.php/ests/article/view/260

Case: Zillows algoritme-flop (2021): Da AI-styrede boligkøb kostede millioner:
https://www.gsb.stanford.edu/insights/flip-flop-why-zillows-algorithmic-home-buying-venture-imploded

Succes-case: Radiologi (2023): Markant bedre diagnosticering via AI-støtte:
https://pubmed.ncbi.nlm.nih.gov/37993303/

Hvad nu hvis det system, du bruger til kontrakter, CRM eller projektstyring, aktivt spænder ben for din forretning? Dan Rose tager i det her soloafsnit fat i en diskussion, mange overser: Hvordan AI ændrer det fundamentalt, du bør kræve af dine it-leverandører.

Du skal høre om 80/20-modellen, der vender indkøbslogikken på hovedet – og om, hvad vibe coding faktisk gør muligt, når din leverandør er åben nok til at lade dig bygge ovenpå. Dan giver konkrete eksempler fra Todais eget maskinrum, inkl. et system han er i gang med at opsige netop nu.

Og så tager han djævlens advokat-kasketten på og advarer mod Vibe Collapse – det nye shadow IT-mareridt, der opstår, når alle bygger alt, og ingen ejer noget.

Dan kommer omkring:

• Hvorfor et 80% færdigt system er præcis det, du skal gå efter – og hvad de sidste 20% skal betyde for dig
• Composable AI og Gartners opgør med monolitiske it-systemer
• Vibe coding i praksis: Todais interne dashboard og screenshot-til-deal-løsning i HubSpot
• Friktion dræber innovation: Kontraktsystemet Dan er ved at opsige, og HubSpot som det gode eksempel
• Vendor lock-in som strategisk trussel: Kelsey Hightowers advarsel om AI-portabilitet
• 3 røde flag til dit næste leverandørmøde: forandringsledelse, AI Act washing og grundmodel-hype
• Vibe Collapse: Når demokratiseret udvikling skaber historiens største shadow IT-problem

Har du ønsker til emner eller gæster? Skriv til dan.rose@todai.ai

Hvad sker der, når AI ikke fjerner arbejdet fra dine medarbejdere, men i stedet overbelaster deres hjerner?

I den her soloepisode tager Dan Rose fat på AI Brain Fry – et nyt fænomen, der peger på, at den største flaskehals i AI-arbejdet ikke længere er teknologien, men menneskets evne til at følge med.

Du skal bl.a. høre om, hvorfor de medarbejdere, der får mest ud af AI, også kan være dem, der rammes først, hvad det betyder for kvalitet og trivsel, og hvorfor debatten om massearbejdsløshed måske rammer ved siden af.

Dan kommer omkring:

Den nye flaskehals: Hvorfor det ikke længere er data, jura eller regnekraft, der begrænser effekten af AI, men frontallapperne på dine medarbejdere.

Brain Fry vs. burnout: Hvorfor AI godt kan fjerne trivielt arbejde og samtidig skabe en ny form for akut kognitiv overbelastning.

Når produktivitet bliver en fælde: Hvordan AI kan tredoble kapaciteten på papiret, men også gøre arbejdet mentalt tungere og mere fejlbehæftet.

Ledelsesproblemet ingen taler nok om: Hvorfor AI-superbrugere oftere risikerer at brænde ud, sige op og tage innovationen med sig ud ad døren.

Har du ønsker til emner eller gæster? Skriv til dan.rose@todai.ai

Nævnt i episoden:

Harvard Business Review: “When Using AI Leads to ‘Brain Fry’”

OpenAI / arXiv: “GPTs are GPTs: An Early Look at the Labor Market Impact Potential of Large Language Models”

Noema Magazine: “AI Could Actually Help Rebuild the Middle Class”

Anthropic: “Labor market impacts of AI: A new measure and early evidence”

Berlingske: “Martin Thorborg: De fleste har stadig ikke forstået, at revolutionen er i fuld gang”