Nový král AI je venku: Anthropic překvapuje špičkovým modelem Fable 5

  • Výzkumník Jacob Coxon opustil Anthropic a obvinil firmu i konkurenční OpenAI, že v závodě o sebezdokonalující se umělou inteligenci „hazardují s našimi životy“
  • Firemní expert na bezpečnost Evan Hubinger mu dal za pravdu a riziko vyhynutí lidstva kvůli AI odhadl na víc než 10 % v příštích deseti letech
  • Anthropic podle vlastních slov zatím nemá plán, jak zajistit bezpečnost umělé inteligence schopné sama sebe vylepšovat

Jacob Coxon, který poslední tři roky strávil pretrainingovým výzkumem nejprve v OpenAI a pak v Anthropicu, v úterý 8. září oznámil odchod z firmy. Jako první o tom informoval deník The Wall Street Journal, krátce nato se Coxon rozepsal na síti X. Napsal, že žádná z firem se nechová zodpovědně a že obě „se řítí přímo k sebezdokonalující se superinteligenci a hazardují s našimi životy“. Pár hodin nato mu dal za pravdu Evan Hubinger, který v Anthropicu vede tým Alignment Stress-Testing zaměřený na prověřování bezpečnostních opatření.

Přečtěte si celý článek Bezpečnostní expert Anthropicu: AI by nás mohla všechny zabít

Zdroj: https://smartmania.cz/bezpecnostni-expert-anthropicu-ai-by-nas-mohla-vsechny-zabit/