Elon Musk i OpenAI: E-maile, które odkrywają kulisy powstania SI
Niedawne ujawnienie korespondencji między Elonem Muskiem a zespołem OpenAI rzuca nowe światło na początki tej przełomowej firmy oraz głębokie rozbieżności w wizjach jej przyszłości. Jakkolwiek sprawa wynika z toczącego się obecnie pozwu przeciwko OpenAI, niektóre szczegóły z tych e-maili wywołują szeroką dyskusję na temat sztucznej inteligencji (SI) i jej przyszłości. Ujawnione wiadomości pokazują wewnętrzne napięcia dotyczące kontroli nad rozwijającą się technologią oraz obawy związane z jej potencjalnym wpływem na świat.
Spór o kontrolę nad sztuczną inteligencją
W jednym z najbardziej poruszających fragmentów e-maili, były główny naukowiec OpenAI, Ilya Sutskever, wyraża swoje zastrzeżenia co do roli Muska jako lidera firmy. Jego obawy dotyczą głównie kwestii absolutnej kontroli nad rozwijającą się sztuczną inteligencją (AGI – sztuczna ogólna inteligencja). Sutskever zauważa, że chociaż Musk deklarował, iż nie chce jednostkowo kontrolować AGI, to jego działania w procesie negocjacji sugerowały coś innego.
„Struktura, którą proponujesz, daje ci możliwość jednostronnej, absolutnej kontroli nad AGI. Choć twierdzisz, że nie chcesz kontrolować tego wyniku, to w trakcie negocjacji pokazałeś, jak ważna jest dla ciebie taka kontrola.”
Sutskever obawiał się, że w miarę postępu w badaniach nad AGI, Musk zdecyduje się na utrzymanie absolutnej władzy nad firmą, nawet wbrew swoim wcześniejszym deklaracjom.
Obawy przed dyktaturą AGI
Nie chodziło jednak wyłącznie o kwestię korporacyjnej władzy. Sutskever wyrażał również obawy natury egzystencjalnej, związane z potencjalnym zagrożeniem, jakie stwarzałaby AI rozwijana pod kontrolą jednej osoby. Celem OpenAI miało być stworzenie przyszłości, w której rozwój sztucznej inteligencji przebiega w sposób otwarty i korzystny dla ludzkości, bez ryzyka, że ktoś – nawet sam Musk – może wykorzystać tę technologię w autorytarny sposób.
„Twój niepokój związany z tym, że Demis [Hassabis, z DeepMind] mógłby stworzyć dyktaturę opartej na AGI, jest nam bliski. Uważamy jednak, że równie złym pomysłem byłoby stworzenie struktury, w której ty sam mógłbyś stać się dyktatorem, gdybyś tego chciał.”
Wątpliwości co do roli Sama Altmana
Korespondencja ujawnia również pewne zastrzeżenia dotyczące Sama Altmana, jednego z założycieli OpenAI i jej późniejszego CEO. Sutskever, podobnie jak później rada nadzorcza, wyrażał wątpliwości co do „przejrzystości” decyzji Altmana. Jego motywacje były trudne do zrozumienia, co prowadziło do nieufności wobec jego decyzji.
„Nie mogliśmy w pełni zaufać twoim osądom w tym procesie, ponieważ nie rozumiemy twojego systemu wartości. Nie rozumiemy, dlaczego tytuł CEO jest dla ciebie tak ważny. Twoje motywacje się zmieniają, co utrudnia nam zrozumienie, co naprawdę cię napędza.”
Obserwując, w jaki sposób Altman skierował OpenAI na bardziej tradycyjną ścieżkę biznesową, można przypuszczać, że jego ambicje były bardziej komercyjne niż filozoficzne, co budziło niepewność wśród jego współpracowników.
Wczesne plany związane z Teslą i Cerebras
Kolejnym interesującym aspektem jest fakt, że OpenAI już w 2017 roku poważnie rozważało zakup firmy Cerebras, znanej z produkcji zaawansowanych chipów do SI, lub przynajmniej zacieśnienie z nią współpracy. W jednym z e-maili Sutskever proponuje, aby ewentualna transakcja została sfinansowana przez Teslę, co pokazuje, jak bliskie były wtedy związki między OpenAI a innymi przedsiębiorstwami Muska.
„Jeśli zdecydujemy się na zakup Cerebras, mam silne przeczucie, że dokonamy tego przez Teslę.”
Ostatecznie do tego nie doszło, choć brak precyzyjnych wyjaśnień w korespondencji na temat przyczyn wycofania się z tego pomysłu. W tamtym czasie Musk starał się, aby OpenAI stało się częścią jego imperium technologicznego, czego dowodem jest inny fragment e-maila od współzałożyciela OpenAI, Andreja Karpathy’ego.
„Najbardziej obiecującą opcją, jaką widzę, jest połączenie OpenAI z Teslą, która mogłaby pełnić rolę ‚krowy gotówkowej’. Gdybyśmy zrobili to naprawdę dobrze, rynek transportowy jest na tyle duży, że moglibyśmy zwiększyć kapitalizację Tesli i wykorzystać te dochody do dalszego finansowania prac nad SI.”
Chociaż Tesla rzeczywiście zwiększyła swoją wartość rynkową, samojezdne pojazdy, nad którymi pracował Karpathy, okazały się znacznie trudniejsze do wdrożenia, niż początkowo zakładano, i jak dotąd nie przyniosły znaczącego wkładu do przychodów firmy.
Microsoft i ich wczesna współpraca
Warto również wspomnieć o udziale Microsoftu, który już w 2016 roku oferował OpenAI 60 milionów dolarów w formie dostępu do zasobów obliczeniowych na platformie Azure. W zamian oczekiwano, że obie firmy będą „ewangelizować” swoje technologie nawzajem. Oferta ta nie spotkała się jednak z entuzjazmem ze strony Muska, który napisał, że propozycja „przyprawia go o mdłości”.
Ostatecznie obie strony nawiązały współpracę, ale bez wzajemnych zobowiązań dotyczących promocji, a Musk w jednym z e-maili stwierdził, że „warto zapłacić więcej niż 50 milionów dolarów, żeby nie wydawać się marionetką Microsoftu.”
Współpraca z Valve i rola Gabe'a Newella
Kolejną ciekawostką z wczesnych lat OpenAI jest fakt, że Gabe Newell, założyciel Valve, był jednym z doradców firmy. Choć jego rola nie była formalna, e-maile ujawniają, że Altman oraz Greg Brockman, współzałożyciel OpenAI, korzystali z jego porad w początkowych etapach rozwoju firmy. Do tej pory nie wiadomo, jaką dokładnie rolę Newell odgrywał w codziennych operacjach OpenAI, ale jego zaangażowanie pokazuje, jak szerokie były wczesne powiązania firmy z liderami branży technologicznej.
Podsumowanie
Ujawnione e-maile zagłębiają się w wewnętrzne rozgrywki i dylematy, które towarzyszyły narodzinom jednej z najbardziej przełomowych firm zajmujących się sztuczną inteligencją. Konflikty dotyczące kontroli nad AGI, relacje z Teslą, wczesne współprace z Microsoftem i potencjalne przejęcia pokazują, jak skomplikowane były początki OpenAI. Choć te wiadomości nie oddają pełnego obrazu, to z pewnością odkrywają kluczowe wątki, które kształtowały dalszy rozwój firmy.
