Objavljeno: 20.8.2024 07:00 | Teme: umetna inteligenca, varnost

Baza podatkov o tveganjih umetne inteligence

Raziskovalci iz univerze MIT so objavili obsežno zbirko podatkov o stotinah dokumentiranih tveganj, ki so povezana z uporabo sistemov umetne inteligence. Z dokumentiranimi primeri naj bi organizacijam pomagali pri ocenjevanju razvijajočih se tveganj umetne inteligence.

Medtem ko številne organizacije in raziskovalci že dalja časa opozarjajo na pomen obravnave tveganj umetne inteligence, so bila doslej prizadevanja za dokumentiranje in razvrščanje teh tveganj v veliki meri neusklajena, kar je vodilo v razdrobljenost nasprotujočih si klasifikacijskih sistemov.

MIT AI Risk Repository se spopada s tem izzivom s konsolidacijo informacij iz 43 obstoječih taksonomij, vključno z recenziranimi članki, konferenčnimi dokumenti in poročili. Rezultat tega natančnega postopka urejanja je baza podatkov z več kot 700 edinstvenimi tveganji.

Repozitorij uporablja dvodimenzionalni sistem klasifikacije. Tveganja so najprej razvrščena glede na njihove vzroke, pri čemer se upošteva odgovorni subjekt (človek ali umetna inteligenca), namen (namerno ali nenamerno) in čas tveganja (pred uvedbo ali po uvedbi). Ta vzročna taksonomija pomaga razumeti okoliščine in mehanizme, s katerimi lahko nastanejo tveganja umetne inteligence.

Tveganja so razvrščena nato v sedem različnih področij, vključno z diskriminacijo in strupenostjo, zasebnostjo in varnostjo, dezinformacijami in zlonamernimi akterji ter zlorabo. AI Risk Repository je zasnovan kot živa zbirka podatkov. Je javno dostopen in organizacije ga lahko prenesejo za lastno uporabo. Raziskovalna skupina namerava redno posodabljati bazo podatkov z novimi tveganji, ugotovitvami raziskav in nastajajočimi trendi.

Raziskovalna skupina obenem priznava, da medtem ko repozitorij ponuja celovito osnovo, bodo morale organizacije prilagoditi svojo oceno tveganja in strategije blažitve tveganj svojim specifičnim okoliščinam. Vendar pa centralizirano in dobro strukturirano skladišče, kot je to, zmanjša verjetnost, da bi spregledali kritična tveganja.

Več novic

Naroči se na redna tedenska ali mesečna obvestila o novih prispevkih na naši spletni strani!

Komentirajo lahko le prijavljeni uporabniki

Najbolj brano

  • Android vam bo povedal, ali vam policija prisluškuje

    Čedalje popularnejši način prisluškovanja in prestrezanja podatkov z mobilnih telefonov je uporaba lažnih baznih postaj (IMSI catcher), ki jih imajo organi pregona v nekaterih državah, lahko pa tudi drugi akterji. Na takšno napravo se povežejo vsi telefoni v okolici, saj njen signal preglasi legitimne bazne postaje, upravljavec pa potem zlahka prestreza komunikacijo. Uporabnik tega početja praktično ne more zaznati.

    Objavljeno: 1.7.2025 07:00
  • Tisoče severnokorejskih uslužbencev prikrito na daljavo delalo v ameriških podjetjih

    Ameriško pravosodno ministrstvo je vložilo obtožnice zoper devet ljudi, ki so skrbeli za prikrito zaposlovanje računalnikarjev iz Severne Koreje za delo na daljavo v ameriških podjetjih. En Američan, šest Kitajcev in dva Tajvanca so obtoženi prevare, pranja denarja, kraje identitete, nepooblaščenega dostopa v računalniški sistem in kršenja mednarodnih sankcij.

    Objavljeno: 2.7.2025 07:00
  • Podjetja nočejo Copilota, ker zaposleni raje uporabljajo ChatGPT

    Microsoft kljub velikim naporom (beri: finančnemu vložku) podjetjem težko proda storitve umetne inteligence Copilot.

    Objavljeno: 27.6.2025 09:00
  • Naprava, ki z laserji uničuje komarje

    Čeprav še nimamo letečih avtomobilov ali robotov strežnikov, lahko zdaj naročimo nekaj, o čemer smo od nekdaj sanjali - lasersko napravo, ki zazna in ubije komarja v nekaj milisekundah.

    Objavljeno: 3.7.2025 11:00
  • Kitajski prenosniki so dve leti za zahodnimi

    Čeprav se Kitajci močno trudijo in izdatno investirajo v domači razvoj in proizvodnjo čipov, so še vedno vsaj dve generaciji za zahodnimi izdelki. To izkazuje tudi najnovejši Huaweijev prenosnik MateBook Fold Ultimate, ki poganja lastni HarmonyOS in ima same kitajske komponente. A te v primerjavi z zahodnimi zaostajajo.

    Objavljeno: 25.6.2025 07:00
  • Pametna očala s samodejnim ostrenjem bi lahko nadomestila bifokalna stekla

    Finsko podjetje IXI razvija inovativna očala z lečami, ki se samodejno ostrijo glede na pogled uporabnika. 

    Objavljeno: 23.6.2025 10:00 | Teme: pametna očala
 
  • Polja označena z * je potrebno obvezno izpolniti
  • Pošlji