Amerykańskie laboratorium AI: chińskie modele nie są z natury niebezpieczne

Amerykańskie laboratorium AI o nazwie Arcee zajmuje stanowisko w gorącej debacie na temat chińskich modeli sztucznej inteligencji. Jak donosi TechCrunch, firma twierdzi, że chińskie modele otwartej wagi nie stanowią większego zagrożenia niż inne oprogramowanie open source.

Lucas Atkins, CTO firmy Arcee, która buduje otwarte modele jako alternatywę dla amerykańskich firm, argumentuje przeciwko rosnącej panice wokół chińskich rozwiązań AI. Jego stanowisko jest szczególnie znamienne, ponieważ ewentualny zakaz chińskich modeli bezpośrednio zwiększyłby popyt na produkty Arcee.

Kluczowe wnioski

• Chińskie modele otwartej wagi, takie jak Kimi K3 od Moonshot AI czy Qwen od Alibaba, oferują inferencję za ułamek kosztów zamkniętych modeli amerykańskich laboratoriów
• CTO Arcee twierdzi, że chińskie modele nie są bardziej niebezpieczne niż inne oprogramowanie open source i nie mogą być wykorzystane jako wektor dla hakerów
• Teoretyczne ryzyko złośliwych backdoorów w kodzie generowanym przez modele istnieje, ale wymagałoby „akrobatycznych wyczynów” do realizacji
• Firmy budują aplikacje AI jako model-agnostic, używając wielu modeli, co zapobiega uzależnieniu od pojedynczego dostawcy
• Arcee czerpie korzyści z chińskich otwartych modeli, ucząc się z ich rozwiązań i budując na ich podstawie

Demistyfikacja obaw bezpieczeństwa

Atkins podkreśla fundamentalną różnicę między tradycyjnym oprogramowaniem a modelami AI. „Wiele osób postrzega to podobnie do chińskiego programu komputerowego — jakby był zakodowany z konkretnymi intencjami, które złośliwy aktor może po prostu wywołać”, wyjaśnia. „To nie jest sposób, w jaki te modele są trenowane”.

Ekspert zaznacza, że nie ma możliwości, aby Arcee czy Alibaba stworzyły model, który po uruchomieniu w środowisku klienta dawałby twórcom jakikolwiek dostęp do niego. Większość modeli określanych jako „open weight” nie jest w pełni otwartym oprogramowaniem, ale kod źródłowy dostępny na platformach takich jak Hugging Face pozostaje widoczny i możliwy do przeglądu.

Duże organizacje powinny poddawać każdy rdzeń modelu swoim procesom testów bezpieczeństwa i inspekcji. Często również przeprowadzają dodatkowe trenowanie modeli dla swoich specyficznych zastosowań, analizując obszary takie jak stronniczość, toksyczność, halucynacje i wrażliwość na określone tematy.

Teoretyczne ryzyko vs praktyczna rzeczywistość

Czy model używany do kodowania mógłby przemycić złośliwe backdoory do pisanego kodu? Atkins przyznaje, że teoretycznie jest to możliwe, ale wymagałoby niezwykłych umiejętności. „Nie ma powodu, dla którego wystarczająco wyrafinowany aktor nie mógłby wytrenować modelu, który byłby całkowicie niesamowitym modelem kodującym w każdych okolicznościach, ale gdy zostałby przedstawiony z pewnym typem bazy kodu... uruchomiłoby się jakieś ukryte trenowanie”, spekuluje. Dodaje jednak: „Nie wiem, jak można by to zrobić”.

Ze względu na kreatywną naturę dużych modeli językowych, szanse na to, że współczesny model wyprodukuje malware w odpowiedzi na zaplanowaną burzę kontekstu i promptu, są znikome. Jeszcze mniejsze są szanse, że przedsiębiorstwo faktycznie użyłoby takiego kodu.

Konkurencja przez innowację, nie zakazy

Zamiast debat o zakazach chińskich modeli, Atkins proponuje skupienie się na rozwoju dobrego, otwartego ekosystemu w Stanach Zjednoczonych. Arcee faktycznie czerpie korzyści z chińskich modeli — ponieważ są otwarte, startup „korzysta z tego, że te modele są dobre, bo możemy się nauczyć, co robiły. Możemy na nich budować. Potem oni mogą się uczyć tego, co robimy my”.

Ostatecznie sposób na konkurowanie z chińskimi modelami „polega na wydaniu modelu, który jest lepszy”, twierdzi Atkins. „Musimy dać im coś, o czym mogliby mówić”.

Stanowisko Arcee pokazuje, że nawet firmy, które mogłyby skorzystać na ograniczeniach dla konkurencji, widzą większą wartość w otwartej współpracy i innowacji niż w protekcjonizmie technologicznym.