IOPC yn rhybuddio bod swyddogion mewn perygl o gamymddwyn Deallusrwydd Artiffisial ‘damweiniol’

Mae Swyddfa Annibynnol Ymddygiad yr Heddlu (IOPC) wedi annog prif swyddogion yr heddlu i adolygu eu polisïau ar ddeallusrwydd artiffisial (AI) er mwyn atal swyddogion a staff rhag syrthio'n anfwriadol i system gamymddwyn yr heddlu.

Mae corff gwarchod yr heddlu wedi ysgrifennu at Gyngor Cenedlaethol Penaethiaid yr Heddlu (NPCC) gan rybuddio bod swyddogion mewn perygl o gyflawni camymddwyn yn ddiarwybod os nad yw polisïau AI yn addas i'r diben, yn cael eu diweddaru'n rheolaidd, ac yn cael eu cyfathrebu'n effeithiol o fewn heddluoedd.

Daw hyn yn sgil atgyfeiriadau gan heddluoedd i'r IOPC lle honnir bod swyddogion a staff wedi defnyddio AI yn amhriodol ac y tu allan i'r hyn a ganiateir gan bolisi neu ganllawiau'r heddlu.

Fodd bynnag, mae Cyfarwyddwr Cyffredinol IOPC, Rachel Watson, wedi rhybuddio y gallai swyddogion gyflawni camymddwyn yn anfwriadol, a hyd yn oed wynebu diswyddiad, oni bai bod mesurau diogelu cadarn ar waith i'w cynorthwyo.

Meddai:

“Mae perygl y gallai swyddogion heddlu a staff, gan gredu eu bod yn gwneud y peth iawn drwy ddefnyddio AI, efallai i gyflymu proses, gael eu hymchwilio am gamymddwyn oherwydd nad ydynt yn gwybod neu'n deall beth a ganiateir.

“Mae'n hanfodol bod gan bob heddlu bolisi AI cadarn ar waith; dyna'r man cychwyn, a byddai'n peri pryder pe na bai rhai heddluoedd wedi mabwysiadu un eto. Mae angen i'r amodau defnydd fod yn glir a chael eu cyfathrebu'n effeithiol ac yn rheolaidd i weithwyr. Mae hefyd yn bwysig bod polisïau'n cael eu hadolygu a'u diweddaru'n aml, o ystyried natur y dechnoleg sy'n datblygu'n gyflym.

“Ac mae angen i bolisïau AI fod yn effeithiol, nid dim ond ymarfer ticio blychau, wedi'u cynllunio o amgylch realiti gweithredol gyda gweithdrefnau dydd i ddydd clir mewn golwg. Mae angen i ymrwymiad arweinyddiaeth i AI fod yn weladwy, a dylid adeiladu hyfforddiant ar sut i gymhwyso AI yn ymarferol, nid dim ond o ran ymwybyddiaeth o systemau AI a'r amodau sy'n gysylltiedig â'u defnydd.

“Rwyf wedi cyfarfod ag arweinydd cenedlaethol AI yr Heddlu i drafod y mater ac wedi ysgrifennu at yr NPCC yn amlinellu'r hyn rydym yn ei weld.

“Nid oes amheuaeth y gall AI ddod â manteision enfawr i blismona. Nid ein nod yw atal arloesedd, ond helpu'r gwasanaeth plismona i fabwysiadu AI yn effeithiol ac yn ddiogel, gan alluogi swyddogion a staff i ddefnyddio'r technolegau hyn yn hyderus a lleihau'r risg o gamgymeriadau y gellir eu hosgoi a allai arwain at gyfranogiad diangen mewn prosesau atebolrwydd.

“Yn yr un modd, rydym am sicrhau bod aelodau'r cyhoedd yn gallu bod yn hyderus bod AI yn cael ei ddefnyddio'n deg, yn dryloyw ac â mesurau diogelu priodol ar waith.”

Ar hyn o bryd mae IOPC yn cynnal dau ymchwiliad annibynnol i honiadau o gamymddwyn difrifol sy'n gysylltiedig ag AI, yn dilyn atgyfeiriadau ymddygiad.

Rydym hefyd yn ymwybodol o ymchwiliadau eraill i gamymddwyn sy'n gysylltiedig ag AI sy'n cael eu trin, neu sydd eisoes wedi'u cwblhau, yn lleol gan heddluoedd heb atgyfeiriad blaenorol i'r IOPC.

Ychwanegodd Rachel Watson:

“Efallai bod y mathau hyn o honiadau yn dir newydd i adrannau safonau proffesiynol mewn rhai heddluoedd, a gallai hynny arwain at ansicrwydd ynghylch a ddylid atgyfeirio rhai honiadau sy'n ymwneud ag AI atom ni.

“Byddwn yn dweud, os oes unrhyw amheuaeth, mai'r peth doeth yw atgyfeirio'r mater atom er mwyn i’n tîm asesu arbenigol adolygu'r amgylchiadau a chynnig cyngor.”