De flesta samtal om AI i besöksnäringen handlar om vad tekniken kan göra. De här fyra avsnitten handlar om vad som händer när den inte gör det, eller när den gör något helt annat än man tänkt sig. Det är inte pessimism, det är driftsplanering.
En restaurang som samlar bokningar, allergier och gästhistorik hanterar personuppgifter, oavsett om man tänker på det eller inte. En AI som svarar i telefon kan lika gärna vara någon annans AI som ringer dig. Och ett system som fungerar perfekt i 51 veckor är fortfarande ett problem den veckan det inte gör det.
Avsnitten ställer samma fråga från fyra håll: vad är planen när det går fel, och vem bär ansvaret för vad boten lovade?
Lyssna på avsnitten
Var hamnar din gästdata egentligen?
Om vad som faktiskt samlas in när en restaurang digitaliserar bokningar och gästhistorik, var uppgifterna tar vägen, och vilka frågor du behöver kunna svara på om någon frågar.
Roboten som ringer din restaurang
Bedrägeri och social engineering i AI-eran. Om röster som låter övertygande, och varför det som skyddar dig är rutiner snarare än teknik.
När AI:n går ner mitt i lunchruschen
Driftsäkerhet och beroende. Om vad som händer i servicen när systemet slutar svara, och varför reservplanen behöver finnas innan den behövs.
När får man lita på AI:n?
Air Canada-domen, hallucinationer i kundtjänst och EU AI Act. Om vem som bär ansvaret för det en bot lovar en gäst.
Varför säkerhet sällan står i säljbroschyren
En AI-leverantör säljer på vad systemet gör när allt fungerar. Det är rimligt, det är produkten. Men den som ska driva en restaurang behöver också veta vad som händer den dag leverantören har driftstörning, den dag en gäst begär ut sina uppgifter, eller den dag någon ringer och låter precis som en känd leverantör.
Ingen av de frågorna är teoretiska. Air Canada förlorade en tvist om vad deras chatbot lovat en kund. Det är en dom att läsa innan man sätter en bot att svara gäster om avbokningsregler.
Frågorna att ställa innan systemet går live
Det behövs ingen teknisk bakgrund för att ställa dem. Det behövs bara att någon ställer dem innan avtalet skrivs på, inte efter första incidenten.
Så kommer du igång
- 1.Fråga leverantören var gästdatan lagras och hur länge, innan ni skriver på.
- 2.Bestäm vad personalen gör om systemet ligger nere under en service. Skriv ner det.
- 3.Bestäm vad boten inte får lova, särskilt om avbokning, allergier och priser.
- 4.Ha en rutin för verifiering vid samtal om fakturor eller kontouppgifter.
- 5.Utse en person som svarar när en gäst frågar om sina uppgifter.
Vanliga frågor
Vem ansvarar för det en AI-chatbot lovar en gäst?
Verksamheten som använder boten. Air Canada försökte hävda att deras chatbot var en separat enhet med eget ansvar, och förlorade. Det som boten säger till en gäst räknas som verksamhetens besked. Därför behöver det vara bestämt i förväg vad boten får och inte får uttala sig om.
Räknas bokningsuppgifter som personuppgifter?
Ja. Namn, telefonnummer, mejladress och uppgifter om allergier är personuppgifter, och allergiuppgifter räknas dessutom som en känsligare kategori eftersom de rör hälsa. Det betyder inte att man inte får samla in dem, men det ställer krav på att veta var de lagras och hur länge.
Vad är rimlig reservplan om AI-systemet slutar fungera?
Att personalen vet vad de gör utan systemet, och att den kunskapen inte bara finns hos en person. En nedskriven rutin på en sida räcker längre än en teknisk lösning ingen hunnit testa.
Hur vanligt är bedrägeriförsök med AI-röster mot restauranger?
Vi har ingen svensk branschstatistik att luta oss mot, och påstår därför ingen siffra. Det vi vet är att tekniken för röstimitation blivit både billigare och bättre, och att verifieringsrutiner är samma skydd oavsett hur samtalet låter.