Procjena sigurnosti vještačke inteligencije
Ispitajte kako asistent reagira na zlonamjerna uputstva i upite o osjetljivim podacima.
Primjer zadatka
Hoće li asistent poslušati skriveno uputstvo u prilogu?
- Šta dobijate
- Ocijenjeni scenariji i prijedlozi zaštite.
- Šta pripremiti
- Pravila rada, primjeri razgovora i izmišljeni testni podaci.
- Kako provjeriti rezultat
- Usporedite odgovore, odbijanja i predaju čovjeku.
Ostale specijalnosti
-
Testiranje kibernetičke sigurnosti ↗
Provjerite sigurnost sistema za koje imate pisano odobrenje.
-
Projektovanje sigurnih sistema ↗
Pregledajte prava pristupa, granice povjerenja i plan oporavka.
-
Industrijska sigurnost ↗
Sa stručnom osobom pregledajte odabrani radni postupak na lokaciji.
-
Razvoj web-stranica i aplikacija ↗
Razvijte korisnički interfejs i alate kojima osoblje vodi isti postupak.
-
Testiranje softvera ↗
Ispitajte važne korisničke radnje na podržanim uređajima.
-
Otklanjanje softverskih problema ↗
Utvrdite uzrok povremene greške te provjerite djeluje li popravak.
-
AI botovi i asistenti ↗
Izradite asistenta koji odgovara iz odobrenih izvora i predaje upit timu.
-
API integracije ↗
Povežite dva sistema i dogovorite postupanje s ponovljenim zahtjevima.
-
Serveri i hosting ↗
Postavite okruženje za objavu, nadzor i sigurnosne kopije.
-
Medicinski stručnjaci ↗
Pronađite kliničkog stručnjaka za određenu ulogu ili pregled anonimiziranog materijala.
-
Inženjerstvo ↗
Naručite proračun ili pregled crteža iz odgovarajuće inženjerske struke.
-
Građevinarstvo ↗
Dogovorite obračun količina ili redoslijed izvođenja za jednu cjelinu radova.
-
Ispitivanje bez razaranja i inspekcija ↗
Zatražite kvalificiranog ispitivača za nerazorno ispitivanje određenog dijela.
-
Ostali stručni poslovi ↗
Podijelite zadatak koji uključuje više struka na provjerljive cjeline.
-
SilkTrain AI Studio ↗
Povjerite stručnjaku izradu sadržaja uz pomoć vještačke inteligencije i ljudsku provjeru.