tron g>Avgående anställda på OpenAI måste underteckna ett restriktivt off-boardingavtal. OpenAI:s verkställande direktör, Sam Altman, sa att en del av avtalet aldrig borde ha inträffat, och det är ett av de sällsynta tillfällena då han verkligen har generat honom att hantera OpenAI. tron g> Efter avgången för några högprofilerade OpenAI-säkerhetsteamanställda kom det fram att avtalet innehåller bestämmelser om icke-nedsättande och sekretess som begränsar de avgående anställda från att kritisera OpenAI för resten av livet, rapporterade Vox på lördagen. Och det är inte bara det; avtalet fortsätter att till och med återkalla anställdas intjänade kapital i företaget om de någonsin kritiserar sin tidigare arbetsgivare på ett sätt som OpenAI anser minska deras värde. De kan inte heller prata om exitvillkoren, eftersom det också kommer att dra tillbaka deras eget kapital. Vad händer på OpenAI? I det senaste tillkännagivandet av ChatGPT-4o fick företagets flaggskeppsprodukt förmågan att tala och känna igen bilder, men för tekniknördarna och anhängarna togs allt tjafs kring produktens uppgradering över av verkligheten att avgående anställda på företaget kanske känner igen bilder men får inte tala. "Under de senaste åren har säkerhetskulturen och -processerna hamnat i baksätet till glänsande produkter." Jan Leike . Strax efter debuten av ChatGPT-4o lämnade OpenAI:s medgrundare och chefsforskare, Ilya Sutskever, företaget. Sutskever ledde också Superalignment-teamet, som tar hand om säkerhetsfrågorna relaterade till företagets AI-produkt. tron g>Läs även: OpenAI avslöjar Chatgpt-4o: Gratis åtkomst med begränsningar tron g> Timmar efter Sutskevers avgång lämnade också en annan medledare i Superalignment-teamet, Jan Leike. De båda säkerhetsexperternas avgång antydde möjligheten att OpenAI kanske skulle ändra sina säkerhetspreferenser, och spekulationer började om att de kunde ha avgått i protest. Altman har bett om ursäkt för aktiepolitiska felsteg Många observatörer anklagar Altman för att vara en bra spelare på att göra offentliga uttalanden, men de kritiserar honom för att han praktiskt taget motarbetar vad han säger. Idag skrev Altman på X om hur företaget hanterar sina anställdas eget kapital. Han nämnde att det fanns en bestämmelse om potentiell upphävande av eget kapital i deras tidigare dokument, men de krävde aldrig något tillbaka. Han sa att det aldrig borde ha stått där i något av deras dokument. när det gäller nya saker om hur openai hanterar eget kapital: vi har aldrig tagit tillbaka någons intjänade kapital, och det kommer vi inte heller att göra om folk inte undertecknar ett separationsavtal (eller inte går med på ett icke-nedsättande avtal). intjänat eget kapital är intjänat eget kapital, punktum. det var… — Sam Altman (@sama) 18 maj 2024 Altman sa också att deras team redan hade fixat utgångspapperet den senaste månaden, och alla som lämnade företaget med gamla dokument undertecknade kunde kontakta honom för rättelse. Han sa också att det är en av få gånger som han skäms över att leda företaget. Men ser man på historien, som vi sa tidigare, har Altman anklagats för motsägelser i sina ord och praxis; han får till exempel kritik för att ha övertygat Saudiarabien att investera miljarder i att göra AI-acceleratorer. Att veta att landet är en monarki och att mäktiga människor kan använda teknik för att kontrollera samhället. Detta hände samtidigt när han applåderade AI-säkerhet och undertecknade ett brev till den amerikanska regeringen för att stoppa snabb AI-utveckling för att rädda mänskligheten från skada. Han var också smart nog att han gjorde en ideell verksamhet till en teknokratisk startup och sedan satte kommersialiseringen på turboboost. Det är inte enkelt och kräver någon form av bedrägeri för att få det att hända. Allt är inte enkelt på OpenAI Det finns också en del historia inblandad. När vd Sam Altman fick sparken av bolagets styrelse förra året innan han snabbt återvände till sin position igen, satt även Sutskever i styrelsen som fattade beslutet. Men Sutskever ändrade snabbt sin hållning och ångrade sitt beslut; han började till och med arbeta med de anställda som ville ha tillbaka Altman på företaget. Sutskever skrev också under brevet som krävde Altmans återkomst. Sedan Altman återvände till företaget förblev Sutskevers position oklar, och han togs också ur styrelsen, liksom många andra efter Altmans återkomst. Medan Altman visade sin sorg över Sutskevers avgång och sa: "Ilya och OpenAI kommer att skiljas. Detta är väldigt tråkigt för mig; Ilya är lätt ett av de största sinnena i vår generation, en ledstjärna för vårt område och en kär vän.” Källa: OpenAI . Den tidigare chefsforskaren sa att han lämnar för något som är personligt viktigt för honom. Även om vi inte vet vad den saken eller projektet är, verkar det som att det kanske är AI-säkerhetsproblemet, som tros vara huvudfokus för Sutskevers preferenser under hela tiden han arbetade på OpenAI. tron g>Läs även: OpenAI CEO väger in på potentiellt AI-drivet socialt skyddsnät tron g> Å andra sidan var Leikes tillkännagivande okomplicerat, eftersom han precis sa: "Jag sa upp mig" och förklarade senare sin oro i en serie inlägg på X. Altman säger att de arbetar med att rätta till exitpapperen, men en annan tidigare anställd på företaget, Daniel Kokotaijlo, sa att han överlämnade sitt eget kapital för att han inte undertecknade avtalet. Han meddelade att han lämnade företaget för att han tappade "förtroendet för att det skulle bete sig ansvarsfullt runt tiden för AGI." Även om Altman har sagt att vilken tidigare anställd som helst kan nå dem och att de kommer att undersöka att åtgärda saken, kan vi inte vara säkra på hur detta tar form i en scen där en personalflykt pågår och anställda ställer frågor om företagets förändrade AI-säkerhet praxis. Kryptopolitisk rapportering av Aamir Sheikh
↧