Miles Brundage, wieloletni badacz polityki w OpenAI oraz starszy doradca zespołu ds. gotowości AGI (artificial general intelligence, czyli sztucznej inteligencji ogólnej), ogłosił swoje odejście z firmy.
Decyzja o przejściu do sektora non-profit
W poście opublikowanym na platformie X oraz w eseju zamieszczonym w swoim newsletterze, Brundage poinformował, że zamierza kontynuować swoją karierę w sektorze non-profit. Jak stwierdził, wierzy, że jako badacz i adwokat w tej dziedzinie będzie miał większy wpływ, ponieważ będzie miał „większą swobodę w publikowaniu” swoich prac. Brundage podkreślił, że decyzja o odejściu z OpenAI była trudna, ponieważ jego praca w firmie była „niesamowicie wpływowa”, zwłaszcza w obecnym czasie, kiedy rozwój sztucznej inteligencji nabiera tempa.
Przyznał jednak, że OpenAI wciąż potrzebuje pracowników, którzy są głęboko zaangażowani w misję firmy, a także w podejmowanie odpowiedzialnych decyzji dotyczących wdrażania i rozwijania nowych technologii. Zwrócił uwagę, że te decyzje, w tym wdrażanie wewnętrzne, będą z czasem coraz bardziej kluczowe dla przyszłości firmy.
Restrukturyzacja po odejściu Brundage’a
Z odejściem Brundage’a wiąże się zmiana struktury zespołów w OpenAI. Dział badań ekonomicznych, który do tej pory był częścią zespołu ds. gotowości na AGI, zostanie przeniesiony pod kierownictwo nowego głównego ekonomisty OpenAI, Ronniego Chatterji. Pozostałe części zespołu AGI zostaną rozproszone pomiędzy inne działy firmy. Joshua Achiam, kierownik ds. zgodności z misją, przejmie niektóre z projektów zespołu ds. gotowości na AGI.
Przedstawiciel OpenAI wyraził wsparcie dla decyzji Brundage’a o kontynuowaniu jego pracy badawczej poza sektorem komercyjnym, podkreślając, że firma jest „głęboko wdzięczna” za jego wkład. Uznano, że jego nowa rola pozwoli mu na jeszcze szerszy wpływ na kształtowanie polityki dotyczącej sztucznej inteligencji, a OpenAI chętnie będzie śledzić efekty jego pracy.
Brundage – kluczowa postać w OpenAI
Miles Brundage dołączył do OpenAI w 2018 roku jako naukowiec badawczy, a później objął rolę szefa ds. badań nad polityką. Zanim trafił do OpenAI, był pracownikiem naukowym w Instytucie Przyszłości Ludzkości na Uniwersytecie Oksfordzkim. Jako członek zespołu ds. gotowości AGI w OpenAI, Brundage koncentrował się na odpowiedzialnym wdrażaniu systemów generowania języka, takich jak popularny ChatGPT. Był również autorem innych inicjatyw, w tym programu zewnętrznego testowania modeli OpenAI przez zewnętrzne zespoły (tzw. red teaming) oraz raportów dokumentujących możliwości i ograniczenia modeli AI.
W ostatnich latach OpenAI spotkało się z oskarżeniami ze strony byłych pracowników i członków zarządu o zbytni nacisk na komercyjne produkty kosztem bezpieczeństwa AI. W swoim poście na X, Brundage zachęcał pracowników OpenAI do wypowiadania się na temat tego, jak firma może poprawić swoje działania. Podkreślił, że sukces firmy zależy od unikania tzw. „groupthinku”, czyli myślenia grupowego, które może prowadzić do podejmowania błędnych decyzji.
Ostatnie zmiany kadrowe w OpenAI
Warto zaznaczyć, że odejście Brundage’a nie jest odosobnionym przypadkiem. W ostatnich tygodniach firmę opuściło kilku kluczowych członków zarządu. Wśród nich CTO OpenAI, Mira Murati, dyrektor ds. badań Bob McGrew oraz wiceprezes ds. badań, Barret Zoph. Wcześniej, w lutym, z OpenAI odszedł znany naukowiec badawczy Andrej Karpathy, a kilka miesięcy później współzałożyciel OpenAI i były główny naukowiec, Ilya Sutskever, również zdecydował się na odejście z firmy. W sierpniu współzałożyciel John Schulman również ogłosił swoją rezygnację, a prezes Greg Brockman obecnie przebywa na przedłużonym urlopie.
Krytyka kierunku OpenAI
Środa była trudnym dniem dla OpenAI. W porannym artykule New York Timesa były badacz OpenAI, Suchir Balaji, stwierdził, że opuścił firmę, ponieważ nie chciał już przyczyniać się do technologii, które uważał za szkodliwe dla społeczeństwa. Balaji oskarżył również OpenAI o naruszanie praw autorskich poprzez trenowanie swoich modeli na danych objętych ochroną bez zgody właścicieli. Podobne zarzuty zostały już wcześniej zgłoszone w pozwach zbiorowych przeciwko firmie.
Sytuacja w OpenAI pokazuje rosnące napięcia i dylematy etyczne związane z rozwojem sztucznej inteligencji. Firma, która przez lata była liderem w badaniach nad AI, teraz mierzy się z krytyką dotyczącą priorytetów, jakie wyznacza sobie na przyszłość.
