Etik för artificiell intelligens i välfärden

Välfärdsteknologi, äldrevård, hemsjukvård, tekniskt omsorgsstöd, hjälpmedel för det dagliga livet – utvecklingen av teknik och system sker i många länder, med ändrade arbetssätt och kompetenskrav som följd. System för välfärdsteknologi kräver också ett visst mått av standarder för att kunna byggas samman och fungera som det är tänkt.

Därför pågår arbeten i den internationella standardiseringsorganisationen IEC för att ta fram och sprida standarder och vägledningar för att underlätta utvecklingen inom området. Det sker i systemkommittén Active Assisted Living, AAL, där ledande positioner i arbetet framförallt har tagits från tyskt och japanskt håll. Genom en motsvarande systemkommitté, SEK SK 2 Tekniskt omsorgsstöd, inom SEK Svensk Elstandard, som sedan 1907 är svensk medlem i IEC, kan svenska företag, organisationer, myndigheter vara med och delta i arbetet.

Etik

Ett projekt, IEC 63416, som just startar ska behandla etiska och moraliska frågor som uppstår under utvecklingen och tillämpningen av artificiell intelligens, AI, i samband med välfärdsteknologi. Det ska beskriva etiska överväganden som är relevanta vid utvecklingen av sådana system och ska ta upp frågor som är specifika för området, utöver dem som redan behandlas i andra AI-dokument. En fråga är, om existerande ramverk och standarder för styrning av AI räcker för att uppfylla de fordringar som ställs för välfärdsteknologi. Syftet med den etiska bedömningen är att komma fram till klara och tydliga etiska riktlinjer som kan användas som en checklista vid utveckling och användning av system för tekniskt omsorgsstöd.

Förslaget till projektet kopplar etiska frågor till de fyra nivåer av för tillämpning av välfärdsteknologi som definieras i IEC TS 63134, en teknisk specifikation som tidigare tagits fram inom systemkommittén för AAL. De är oberoende (nivå 0), viss assistans (1), assistans med IADL (2) och assistans med ADL (3). Det framhålls att etiska riktlinjer i det här sammanhanget bör vara praktiskt användbara, flexibla och hållbara och fokusera på mänskliga rättigheter och välbefinnande. I förslaget står även att aktörer på området bör respektera mänskliga rättigheter och demokratiska värderingar över systemets hela livscykel.

System

Det är framförallt tre områden som AAL-kommittén inom IEC koncentrerat arbetet på. Det första området är förstås grundläggande standarder för terminologi, referensarkitektur och liknande. Ett annat gäller systemaspekter, främst tillförlitligheten hos utrustning och system som har betydelse för brukarens säkerhet. Ett tredje område handlar om organisation, kompetens och liknande, mera mjuka aspekter.

Inom det senare området finns redan publikationen IEC SRD 63234 där en första del ger ett beskrivande ramverk och ett formulär för en ekonomisk bedömning av ett införande av tekniskt omsorgsstöd och ny välfärdsteknik, och en andra del som innehåller ett exempel på hur man använder ramverket, i det här fallet för att göra en ekonomisk bedömning av att införa fjärrövervakning av kroniskt sjuka som vistas hemma. Det pågående projektet IEC 63314 ska komplettera med relevanta fordringar på personalens utbildning och färdigheter.

Medicinteknik

Inom den internationella standardiseringsorganisationen IEC finns flera grupper som arbetar med standarder med anknytning till vård och omsorg. Svenska intressenter deltar genom SEK Svensk Elstandard, som regeringen utsett att vara svensk standardiseringsorganisation inom de områden där IEC arbetar. Exempel på medicintekniska standarder är SS-EN 60601-1-11 med fordringar på säkerhet och väsentlig prestanda för utrustning och system i hemlik vårdmiljö och SS-EN 82304-1 med säkerhetsfordringar på programvara för hälsoapplikationer. Båda från SEK TK 62, Elektrisk utrustning för medicinskt bruk, där det bland aktuella projekt finns ett kring AI inom medicinsk teknik.

Standarder ger en plattform för framgångsrika forsknings- och innovationsprojekt och för nya produkter och tjänster. Inom IEC pågår också arbete med att ta fram standarder och vägledningar inom andra teknikområden som har relevans för utvecklingen inom välfärdsteknologi, som tryckt elektronik, IoT och kroppsnära elektronik. Internationella standarder från IEC blir normalt även europeisk standard, EN, vilket bland annat ger dem en särställning vid offentlig upphandling.

---

---