# 7. Rizici i prigovori

Najjači prigovori, sami izrečeni, s odgovorom ili s priznanjem da odgovora nemamo. Brojevi u
zagradama upućuju na [`../izvori.md`](../izvori.md).

## 1. Nema dokaza da kamere povećavaju sigurnost

**Prigovor.** Sustavni pregledi nadzora na psihijatrijskim odjelima nalaze malo dokaza da kamere,
nadzor videom ili kamere koje nosi osoblje smanjuju nasilje ili samoozljeđivanje, a nijedna studija
nije ispitala nenamjerne štete (4.1, 4.2, 9.9). U ovom slučaju kamera je snimala i nikoga nije
zaustavila.

**Odgovor.** Zato ovo nije prijedlog za kamere, nego za drugog gledatelja, i zato je pokus s
mjerenjem. Nismo našli nijedan sustav u svijetu u kojem tijelo izvan ustanove redovito pregledava
snimke sputavanja (9.6); pilot bi bio prvi. Pošteno je reći da ne znamo hoće li djelovati. Zato se
uspjeh i neuspjeh definiraju unaprijed, a ako ne djeluje, pilot se gasi.

## 2. Problem se seli izvan kamera

**Prigovor.** Ako se snima samo soba za sputavanje, grubo postupanje može se preseliti u hodnik,
drugu sobu ili u vrijeme kad se ništa ne bilježi. Ili se umjesto vezanja posegne za lijekovima.

**Odgovor.** To je stvaran rizik i nismo našli studiju koja ga izravno mjeri (9.15). Pilot zato
usporedno prati i druge mjere prisile (izolaciju, prisilnu primjenu lijekova) te pritužbe iz drugih
prostora. Porast tih mjera znači da pilot šteti, i razlog je za prekid.

## 3. Sputavanje se prestane bilježiti

**Prigovor.** Ako evidencija otvara snimku, netko će prestati evidentirati.

**Odgovor.** Upravo zato postoje nasumični uzorak i AI kao drugi sloj
([`03_rjesenje.md`](03_rjesenje.md)): oni hvataju neprijavljeno. Razlika između evidencije i onoga
što pokazuju snimke jedno je od glavnih mjerila pilota.

## 4. Privatnost i dostojanstvo pacijenata

**Prigovor.** Snimka vezanog pacijenta među najosjetljivijim je podacima koji postoje. Slanje takvih
snimki izvan bolnice povećava rizik curenja. Snimka iz ovog slučaja već je procurila na društvene
mreže (1.11).

**Odgovor.** Upravo to curenje pokazuje da je današnje stanje, u kojem snimka ostaje u ustanovi bez
pravila, nesigurno. Prijedlog uvodi šifriran prijenos, dnevnik svakog pristupa, mali broj ovlaštenih
osoba i brisanje nakon zadanog roka. Svejedno, prije početka treba procjena učinka na zaštitu
podataka i mišljenje Agencije za zaštitu osobnih podataka (v. [`04_pravni_okvir.md`](04_pravni_okvir.md)).
Pacijentima i obiteljima treba jasno reći da se snima i zašto.

## 5. Nadzor osoblja i povjerenje

**Prigovor.** Osoblje će se osjećati kao osumnjičenici. Istraživanja s kamerama na odjelima bilježe
zabrinutost za povjerenje između osoblja i pacijenata (4.3). Sustav koji prati ponašanje zaposlenika
europski propis svrstava među visokorizične (5.5).

**Odgovor.** Snimka štiti i osoblje: brzo pokaže kad je postupak bio ispravan. Pravila o tome što se
smije, a što ne smije raditi sa snimkama donose se prije početka zajedno sa sindikatom. Snimke ne
služe za ocjenu rada. Uz pregled ide i učenje (razgovor nakon događaja, mjesečni pregled), jer
dokazani programi smanjenja sputavanja upravo na tome grade (9.10–9.13).

## 6. Pogreške AI-ja

**Prigovor.** Detektor će davati lažne alarme i propuštati slučajeve.

**Odgovor.** Hoće. Zato AI nije sudac nego alarm i filtar, a o ocjeni uvijek odlučuju ljudi. Lažni
alarm košta nekoliko minuta pregleda; propušteni slučaj nije gori od današnjeg stanja, a uzorak
onoga što AI nije poslao pokazuje koliko propušta. Nismo našli objavljene podatke o točnosti takvog
detektora (9.14).

## 7. AI odlučuje što ljudi vide

**Prigovor.** Ako AI procjenjuje treba li slučaj poslati, njegova pogreška može nešto sakriti, a
ustanova bi se mogla skrivati iza „AI nije javio".

**Odgovor.** Zato početak svakog zabilježenog sputavanja ide uvijek, bez obzira na AI; ljudi
pregledavaju nasumičan uzorak onoga što AI nije poslao; svaka odluka AI-ja bilježi se u zapis koji
ustanova ne može mijenjati; a prag je postavljen tako da AI radije pošalje previše. A/B test i rad u
sjeni mjere koliko AI propušta prije nego što o ičemu sam odlučuje ([`06_pilot.md`](06_pilot.md)).

## 8. Kapacitet ureda pučkog pravobranitelja

**Prigovor.** Ured ima ograničen broj ljudi; novi posao bez novih ljudi ne bi se radio dobro.

**Odgovor.** Prijedlog traži dvoje novih ljudi, financiranih posebno (v. [`05_trosak.md`](05_trosak.md)).
Pilot će pokazati koliko pregleda stvarno ima i treba li ih više.

## 9. Umjetna inteligencija predlaže umjetnu inteligenciju

**Prigovor.** Ovaj je prijedlog napisan uz pomoć AI-ja, a predlaže AI.

**Odgovor.** Točno, i zato to pišemo otvoreno ([`10_kako_je_nastalo.md`](10_kako_je_nastalo.md)). Prvi sloj
radi bez AI-ja; AI prvo radi u sjeni, a zatim se mjeri A/B testom prema sloju bez AI-ja. O svemu ovome trebaju suditi ljudi.

## 10. „Puzanje" svrhe

**Prigovor.** Sustav uveden za sputavanje sutra će se htjeti koristiti za nešto drugo.

**Odgovor.** Svrha se zapisuje u sporazum i u procjenu učinka: samo sobe za sputavanje, samo
prepoznavanje sputavanja, samo pregled izvana. Svako proširenje traži novu odluku i novu procjenu,
a ne samo novu postavku u softveru.