0

Antropinis samdomas buvęs OpenAI saugos vadovas vadovauja naujai komandai

  • 28 gegužės, 2024


Janas Leike'as, pirmaujantis dirbtinio intelekto tyrėjas, kuris anksčiau šį mėnesį atsistatydino iš „OpenAI“, prieš viešai sukritikavęs bendrovės požiūrį į DI saugumą, prisijungė prie „OpenAI“ konkurento „Anthropic“, kad vadovautų naujai „superlygiavimo“ komandai.

Straipsnyje apie X Leike'as teigė, kad jo komanda „Anthropic“ daugiausia dėmesio skirs įvairiems AI saugos ir saugumo aspektams, ypač „mastelio keitimo priežiūrai“, „nuo silpno iki stipraus apibendrinimo“ ir automatizuoto derinimo tyrimams.

Šaltinis, susipažinęs su šiuo klausimu, pasakoja „TechCrunch“, kad Leike'as tiesiogiai atsiskaitys Anthropic vyriausiajam mokslo pareigūnui Jaredui Kaplanui ir kad Anthropic tyrėjai, šiuo metu dirbantys su keičiamo dydžio priežiūra – metodais, leidžiančiais nuspėjamais ir pageidaujamais būdais kontroliuoti didelio masto AI elgesį, – praneš. Leikei, kai sukasi Leike komanda.

Daugeliu atžvilgių Leike komandos misija skamba panašiai kaip neseniai iširusios OpenAI Superalignment komandos. „Superalignment“ komanda, kuriai kartu vadovavo Leike, turėjo ambicingą tikslą per ateinančius ketverius metus išspręsti pagrindinius techninius iššūkius, susijusius su superinteligentiškojo dirbtinio intelekto valdymu, tačiau ją dažnai kliudė OpenAI vadovybė.

„Anthropic“ dažnai bandė save laikyti labiau saugaus dėmesio nei „OpenAI“.

„Anthropic“ generalinis direktorius Dario Amodei buvo buvęs „OpenAI“ tyrimų viceprezidentas ir, kaip pranešama, išsiskyrė su „OpenAI“ po to, kai nesutarė dėl bendrovės krypties, o būtent dėl ​​vis labiau komercinio OpenAI dėmesio. Amodei atsivedė daug OpenAI darbuotojų, įskaitant buvusį OpenAI politikos vadovą Jacką Clarką.





Source link

Draugai: - Marketingo agentūra - Teisinės konsultacijos - Skaidrių skenavimas - Fotofilmų kūrimas - Miesto naujienos - Šeimos gydytojai - Saulius Narbutas - Įvaizdžio kūrimas - VeidoskaitaTeniso treniruotės -