När AI:n går ner mitt i lunchruschen

(intro melodi) En fredag i juli 2024, strax efter tolv. En lunchrestaurang. Det är fullt. Kön ringlar ut genom dörren.

Det doftar stekt smör och rostat bröd. Kassaapparaten piper i takt med att folk drar sina kort. Och så, mitt i rushen, slutar det pipa. Kortläsaren visar en grå skärm.

Nästa gäst drar sitt kort. Inget händer. Personalen trycker på knappar, startar om, drar ur sladden, sätter i den igen. Inget.

Det är inte deras fel. Det är inte ens deras leverantörs fel egentligen. Nånstans, långt borta, har en enda uppdatering hos ett enda säkerhetsföretag rullats ut. Och just nu, i den här lunchkön, betyder det att bara kontanter fungerar.

Hur många i den kön har kontanter med sig en fredag i juli 2024? Jag har stått i den kön. Inte just den dagen, men i hundra andra varianter av den. Jag är sommelier.

Jag har jobbat i besöksnäringen i tjugofyra år och det värsta som finns är inte att det blir fel. Det är att det blir fel och du inte kan göra någonting åt det. Den där fredagen i juli, det var CrowdStrike, ett amerikanskt säkerhetsföretag. En uppdatering kraschade ungefär åtta och en halv miljoner Windows-datorer på en gång och det slog ut kortbetalningar i butiker och restauranger över hela världen.

Restaurangägaren gjorde ingenting fel och kunde ändå inte ta betalt. Det är hela poängen med det här avsnittet. Det går inte att välja en leverantör som aldrig faller. Det går att välja en reservväg.

Välkommen till Gästen förs. Det här är tredje avsnittet i vår säkerhetsvecka och temat i dag är driftsäkerhet och beroende. Vad händer den dagen systemet du litar på går ner? Och hur bygger man så att en enda punkt inte stoppar hela verksamheten?

Med mig i dag har jag Rickard Wilhelmsson som bygger restaurang-AI och Wilhelmsson Labs. Tjugofyra år i besöksnäringen, sommelier. Och Linda, driftansvarig och operationschef. En praktiker som har stått mitt i en driftstörning när allt rasat.

Linda är en gestaltad röst. Linda, du hörde Rickards öppning. Den där grå skärmen mitt i lunchruschen. Känner du igen känslan?

Mer än jag vill. Den där känslan när allt står still och hela rummet tittar på dig som om du ska fixa det. Och du vet att problemet sitter någonstans du inte ens kommer åt. Det jag lärde mig av Crowdstrike-dagen och av varje mindre version av den jag varit med om, är att frågan vi ställer oss är fel.

Vi sitter i upphandlingar och frågar leverantören: Hur ofta går ert system ner? Och de svarar med fina siffror. Men det är fel fråga. Jag betalas inte för att tro att det aldrig går sönder.

Jag betalas för att veta vad vi gör när det gör det. Det är två helt olika saker. (skratt) Det är precis den meningen jag ville ha med Linda, för... I restaurangvärlden har vi alltid haft reservvägar för det fysiska. Går frysen sönder mitt i en service, då har du en plan.

Slocknar belysningen, då finns det stearinljus i ett skåp. Men det digitala, där har vi bara antagit att det funkar. Kassan funkar, bokningssystemet funkar och den dagen det inte gör det, då står vi där med en grå skärm och ingen plan alls. Linda, ta oss tillbaka till den där dagen.

Vad var det som faktiskt hände, tekniskt? Och varför drabbar vi det så många på en gång? Okej, Crowdstrike är ett säkerhetsföretag. Deras programvara sitter på enormt många företagsdatorer för att skydda mot intrång.

Den nitton juli 2024 skickade de ut en helt vanlig uppdatering. Men i den uppdateringen fanns ett fel. Och eftersom deras program ligger så djupt i operativsystemet kraschade datorerna direkt. Inte några, cirka 8,5 miljoner Windows-datorer, samtidigt.

Och de gick inte bara ner, de fastnade i en kraschloop. Du kunde inte starta om dig ur det. Många behövde fixas för hand, en och en. Effekten blev absurd.

Cirka sextontusenniohundra inställda flyg på sjuttiotvå timmar. Förlusterna uppskattades till minst tio miljarder dollar. Sjukhus, banker, butiker, restauranger. Och det som gör det läskigt är inte hur stort det var.

Det är hur litet felet var. En enda uppdatering. Noll illvilja. Bara en bugg på fel ställe.

Och det är just det som gör mig orolig på restaurangägarens vägnar. Det var inte ens du som gjorde fel. Du köpte ett kassasystem av en leverantör du litar på. Den leverantören köper i sin tur skydd av Crowdstrike och Crowdstrike gör ett misstag.

Tre led bort från dig och du står ändå där i lunchruschen och kan inte ta betalt. Det är total maktlöshet. Och jag har räknat lite på vad ett sådant stopp faktiskt kostar. För en fullservice-restaurang i högtrafik, om kassan står still, pratar vi lätt om sextiotusen kronor i timmen i utebliven omsättning.

Och det är inte ens hela skadan. Visa kom med en siffra 2024 som fastnade hos mig. Av de gäster som råkar ut för en misslyckad betalning, ungefär trettio procent, kommer inte tillbaka inom trettio dagar. Så du förlorar inte bara den lunchen, du förlorar en del av gästerna för att skärmen blev grå just den dagen.

Och det där med trettio procent, det är en viktig poäng som folk missar. Vi tänker på nedtid som en kostnad just den dagen. En förlorad lunch, ett tapp i omsättningen. Men den verkliga kostnaden är förtroendet.

Gästen vet inte att det var CrowdStrike. Gästen vet bara att hos er fungerade inte kortet och de stod där och kände sig dumma framför kön. Och nästa gång de ska äta lunch väljer de stället bredvid. Inte för att de bestämt sig för att straffa dig.

Bara för att magkänslan säger att det var krångligt sist. Det är därför jag aldrig accepterar svaret. Det går nästan aldrig ner. Nästan aldrig räcker inte när nästan aldrig kostar dig gästen.

Men Linda, leverantörer lovar ju ofta jättehög drifttid. Jag har sett siffror som nittionio komma nio procent överallt och det står ofta längst ner med liten text i avtalen. Det låter ju nästan som att det aldrig går ner. Är det inte tryggt nog?

Eller är det en siffra som lurar oss? (skratt) Det där är min favoritfälla. Nittionio komma nio procent låter som ingenting kan gå fel. Men låt oss räkna på vad det faktiskt betyder. Nittionio komma nio procents drifttid, det vanligaste löftet du ser, det betyder åtta timmar och fyrtiosex minuter nedtid per år.

Tillåten, inbakad i löftet. Tänk dig att de åtta timmarna och fyrtiosex minuterna inträffar en fredag i juli, mitt i din lunchrush. Det är helt inom vad de lovat dig. De har inte brutit någonting.

Vill du ha en extra nia? Nittionio komma nittionio procent? Då sjunker det till femtiotvå minuter per år. Mycket bättre, men det kostar oftast rejält mycket mer.

Och även femtiotvå minuter, om de kommer på fel dag, är fyrtio gäster i en kö som inte kan betala. Det går inte att välja en leverantör som aldrig faller. Det går att välja en reservväg. Men, och här blir jag obekväm, en reservväg är inte gratis.

Den kostar tid, pengar och övning. Och det är där de flesta planer dör. Och där tänker jag delvis annorlunda, eller åtminstone jag vill skjuta in en nyans. Du har helt rätt i att en reservväg kostar, men jag tror problemet oftare sitter i att vi binder oss vid en enda leverantör utan att ens tänka på alternativet.

En leverantör, en räkning, allt står still. När vi byggde restaurang AI tog jag ett medvetet beslut. Vi byggde det så att vi kan byta AI-motor om en leverantör fallerar. Om den modell vi använder i dag går ner eller höjer priset eller bara slutar fungera som vi vill, då ska vi kunna koppla in en annan utan att riva allt.

Det är inte gratis, du har rätt. Det är jobbigare att bygga så. Men alternativet är att en dag vakna och inse att hela din verksamhet hänger på ett företag du inte kontrollerar. Jag vill hellre betala lite för flexibiliteten än betala allt den dag leverantören bestämmer mitt öde åt mig.

Jo, och jag vill inte låta som att jag är emot reservvägar, för det är ju hela mitt jobb. Men jag har sett en sak gång på gång som jag vill varna för. Folk bygger en reservväg, känner sig trygga och testar den aldrig. Och en oprövad reservväg, det är värre än ingen reservväg.

För då tror du att du är skyddad och den dagen det smäller upptäcker du att backupen inte fungerar eller att ingen kommer ihåg hur man slår över till den. Jag har varit med om en återställning där vi hade backuper, massor av backuper, men de låg alla på samma ställe som det som gick sönder. Det är därför jag älskar tre-två-ett-regeln. Tre kopior av din data, två olika sorters lagring och en av dem på en annan fysisk plats.

Det låter tråkigt. Det är tråkigt, men det är skillnaden mellan en dålig dag och en katastrof. Tre kopior, två sorters lagring, en på annan plats. Det är som att jag i restaurangen aldrig hade allt vin i samma källare.

Och du har en poäng som svider lite. Att bygga utbytbart som vi gjorde, det är också bara en plan tills man testat den. Jag tror du och jag landar på samma ställe från olika håll. Du säger, ha en reservväg och öva på den.

Jag säger, var inte inlåst hos en enda leverantör. Det är egentligen samma princip. Låt aldrig en punkt stoppa hela verksamheten. Ni två är farligt överens.

När jag vill peta på en öm punkt, säg att jag faktiskt vill byta leverantör för att jag är missnöjd. Är det än så enkelt? Eller sitter min data fast? Det där är den dolda fällan och den är värre än en driftstörning på sätt och vis.

En driftstörning är över på några timmar. Inlåsning sitter i åratal. Säg att du använt ett system i tre år. Din bokningshistorik, dina gäster, dina mönster, allt ligger där.

Och så vill du byta. Du är missnöjd eller priset höjdes eller någon bättre dök upp. Och då upptäcker du att du inte kommer åt din egen historik på ett vettigt sätt. Du kan inte bara ta med dig tre års data ut igenom dörren.

Den sitter inlåst i deras format, i deras system. Och då blir tröskeln att byta så hög att du stannar. Inte för att de är bäst, utan för att det är för dyrt att gå. Det är inlåsning och det är ofta designat så med flit.

Och det finns faktiskt lite hjälp i lagen här, vilket inte alla vet. GDPR artikel tjugo ger dig rätt att få ut din data gratis i ett maskinläsbart format. Det är rätten till dataportabilitet. Den finns redan.

Och inom EU kommer det en sak till, Data Act, som skärper kraven på molnleverantörer att göra det enklare att byta. Att flytta mellan leverantörer ska inte få vara en fängelsedörr. Men ärligt, lagen är en sak, verkligheten en annan. Du som restaurangägare kommer inte sitta och åberopa artikel tjugo i en lunchrusch.

Därför säger jag, fråga om det här innan du skriver på, inte efter. Fråga, hur får jag ut min data den dag jag vill gå? Får jag den i ett format jag kan använda? Om svaret är luddigt, då vet du redan vad du köper.

Du köper en dörr som bara öppnas inåt. Det är det klokaste man kan göra. Ställ utträdesfrågan vid ingången. Det är som att fråga efter nödutgångar när man checkar in på hotell.

Lite obekvämt, men du gör det innan det brinner, inte under. Och kombinera de tre sakerna vi pratat om. Räkna på vad nedtid faktiskt kostar dig. Ha en reservväg och öva på den.

Och se till att du äger din egen data så du kan gå. Gör du de tre sakerna har du flyttat dig från att hoppas att det aldrig smäller till att veta vad du gör när det gör det. Jag märker att ni gått från skräck till nästan optimism under det här samtalet, vilket jag inte väntade mig när vi började i en grå skärm mitt i en lunchkö. Rickard, om en restaurangägare lyssnar nu och känner sig lite skrämd men vill agera redan i kväll, vad är de konkreta stegen?

Tre steg. Det första, gör ett tankeexperiment, inte ett projekt. Sätt dig ner en kväll och fråga, vad händer i min restaurang om kassan dör mitt i lunchen i morgon? Kan jag ta betalt på något annat sätt?

Vet personalen vad de ska göra? Om svaret är nej, då har du hittat din svagaste punkt på tio minuter. Det andra, skriv ner reservvägen och testa den på riktigt. En lugn tisdag, inte en stressig fredag.

Dra ur kassan med flit och se om ni klarar att ta betalt ändå. Linda har rätt. En oprövad reservväg är ingen reservväg. Och tänk tre, två, ett på din data.

Tre kopior, två sorters lagring, en på annan plats. Det tredje, ställ utträdesfrågan innan du skriver på nästa avtal. Hur får jag ut min data? I vilket format?

Och kan jag byta utan att riva allt? Det är där allt det här landar för mig. Driftsäkerhet handlar inte om att hitta leverantören som aldrig går ner. Den finns inte.

CrowdStrike bevisade det den nitton juli tvåtusen tjugofyra, åtta och en halv miljoner datorer på en gång. Det handlar om att aldrig låta en enda punkt stoppa hela verksamheten. Reservväg, backup på annan plats, rätten att ta med sin data ut. Sluta fråga om det kan gå sönder.

Börja fråga vad du gör den dagen det gör det. Det går inte att välja en leverantör som aldrig faller. Det går att välja en reservväg. Reservväg först, sen bekvämlighet.

Linda, Rickard, tack! Det här var ett samtal jag faktiskt blev lugnare av. Trots att det började i en grå skärm mitt i en lunchkö. Nästa avsnitt avslutar vår säkerhetsvecka.

Då pratar vi om människan i loopen. När ska AI få bestämma själv? Och när måste en människa säga ja eller nej innan något händer? Rickard, sista ord.

Linda är en gestaltad röst. En typ av driftansvarig jag pratat med genom åren. Inte en verklig person kopplad till ett verkligt bolag. Och Olivia, som lett det här samtalet, är en AI-röst byggd på Eleven Labs.

Samma sorts teknik vi pratar om i det vi bygger. Det kändes ärligt att säga det, särskilt i ett avsnitt om driftsäkerhet. Tack för att ni lyssnade. Vi hörs i veckans sista avsnitt.