KI-risiko: Kan kunstig intelligens utløse neste pandemi?

En ny bekymring preger forskningsmiljøene: kan kunstig intelligens (KI) være katalysatoren for fremtidige pandemier? Frykten ligger i KI-systemers potensial til å designe nye, farlige patogener eller for å spre eksisterende sykdommer med en hastighet og skala tidligere ukjent. "Vi vil stå helt på bar bakke hvis ikke dette blir adressert," advarer ledende forskere.

Potensialet for misbruk av avansert KI-teknologi innen biovåpenutvikling har blitt et stadig mer presserende tema. Forskere ved Norges teknisk-naturvitenskapelige universitet (NTNU) og Universitetet i Oslo (UiO) peker på at de samme algoritmene som brukes til å utvikle medisiner, også kan brukes til å skape farligere virusstammer. Spesielt bekymrer man seg for at KI kan akselerere utviklingen av patogener som er motstandsdyktige mot eksisterende behandlinger og vaksiner, eller som har en svært høy smitteevne.

Usikkerhet rundt regulering og kontroll

Den raske utviklingen innen KI-feltet overgår langt evnen til myndigheter og internasjonale organisasjoner til å utvikle adekvate reguleringer. Dette skaper et "regulatorisk tomrom" der potensielt farlige applikasjoner kan utvikles og distribueres uten tilstrekkelig tilsyn. Eksperter etterlyser en proaktiv tilnærming, der internasjonale samarbeid etableres for å overvåke og kontrollere forskning som kan ha pandemiske implikasjoner. "Ansvaret hviler tungt på forskere, utviklere og politiske beslutningstakere å sikre at KI-teknologien brukes til det beste for menneskeheten, ikke til å undergrave vår sikkerhet," uttalte en anonym kilde innen nasjonal sikkerhet.

Risikoen for at KI kan utnyttes av illvillige aktører, enten stater eller terrorgrupper, er reell. Systemene kan lære å manipulere biologiske data, identifisere svakheter i immunsystemer eller optimere leveringsmetoder for patogener. Forskning publisert i tidsskriftet Nature Medicine i 2023 understreket hvordan generativ KI kan brukes til å designe nye proteiner med potensielt sykdomsfremkallende egenskaper. Dette eksempelet illustrerer den doble bruken av teknologien, der innovasjon kan snu seg mot skapere.

Et annet scenario som bekymrer, er utilsiktet spredning. Selv om intensjonen er god, kan feil i KI-systemer eller uforutsette interaksjoner føre til at et nytt virus slippes løs. Den globale avhengigheten av digitale systemer for alt fra logistikk til helseovervåking betyr at et biokjemisk angrep, forsterket av KI, kunne lamme samfunn over natten. Denne teknologiske sårbarheten er en ny dimensjon av pandemisk risiko som krever grundig analyse.

Fremtiden krever en balansert tilnærming: fortsette den vitenskapelige fremgangen innen KI som lover så mye godt for medisin og samfunn, samtidig som man bygger robuste sikkerhetsmekanismer. Dette inkluderer ikke bare teknologiske barrierer, men også etiske retningslinjer og internasjonale avtaler som kan håndheves. Spørsmålet er ikke lenger om KI kan utgjøre en trussel, men hvordan vi best kan mitigere denne trusselen for å unngå en fremtidig katastrofe.