Bardzo ekscytujące. Teraz możesz robić dzikie rzeczy, które Claude Code może lokalnie na twoim komputerze, bezpośrednio w Claude Desktop. Ogromne. Umożliwi to wielu więcej ludziom wykorzystanie mocy Claude Code. (I bardzo fajnie, że w ich ogłoszeniu odwołali się do mojego posta na CC, dzięki zespole @AnthropicAI)

Moje największe wnioski od @Aish_Reganti i @KiritiBadam na temat budowania udanych produktów AI dla przedsiębiorstw: 1. Produkty AI różnią się od tradycyjnego oprogramowania na dwa fundamentalne sposoby: są niedeterministyczne i musisz nieustannie balansować między agencją a kontrolą. Tradycyjne procesy rozwoju produktów zawodzą, gdy twój produkt daje różne odpowiedzi na ten sam input i potrafi działać samodzielnie. 2. Balansowanie między agencją a kontrolą to kluczowa decyzja projektowa w każdym produkcie AI. Aish i Kiriti przedstawiają to jako spektrum: na jednym końcu AI działa autonomicznie z minimalnymi ograniczeniami; na drugim, system jest ściśle ograniczony z wyraźnymi zasadami i bramkami z udziałem człowieka. Większość udanych produktów AI dla przedsiębiorstw znajduje się gdzieś pośrodku, dynamicznie dostosowując kontrolę w oparciu o wyniki pewności, kontekst i ryzyko. 3. Większość porażek produktów AI wynika z błędów w wykonaniu, a nie ograniczeń modelu. Aish i Kiriti zauważają, że zespoły obwiniają podstawowy LLM, gdy prawdziwym problemem jest niejasny zakres produktu, brak ograniczeń lub słabe wprowadzenie użytkownika. Model, który halucynuje 5% czasu, może nadal napędzać świetny produkt, jeśli zaprojektujesz UX tak, aby ujawniał wyniki pewności, pozwalał użytkownikom weryfikować wyniki i ograniczał zadanie. Wskazówka do działania: zanim poprosisz o lepszy model, przeprowadź audyt swojego projektu produktu, ocenę pokrycia i przepływów użytkowników. Dyscyplina wykonawcza przewyższa wydajność modelu w większości przypadków. 4. Twój produkt AI w wersji 1.0 powinien rozwiązywać wąski, wysokowartościowy problem z ściśle określonymi ograniczeniami. Zespoły ponoszą porażki, próbując zbudować ogólnego asystenta lub agenta za pierwszym razem. Wybierz jeden przepływ pracy, zautomatyzuj jedno powtarzalne zadanie lub odpowiedz na jedną kategorię pytań naprawdę dobrze. Wąski zakres pozwala na zbieranie skoncentrowanej informacji zwrotnej, szybsze dostosowywanie modelu i udowodnienie wartości przed rozszerzeniem. Szerokość przyjdzie później, po tym jak opanujesz podstawową pętlę. 5. Obserwowalność i logowanie są ważniejsze dla produktów AI niż dla tradycyjnego oprogramowania, ponieważ zachowanie AI jest niedeterministyczne i trudniejsze do debugowania. Powinieneś logować nie tylko błędy, ale także wyniki pewności modelu, cechy wejściowe, poprawki użytkowników i metryki opóźnienia. Gdy coś pójdzie nie tak w produkcji, te logi są jedynym sposobem na rekonstrukcję tego, co model widział i dlaczego podjął określoną decyzję. Inwestuj w infrastrukturę logowania wcześnie, zanim pojawi się kryzys. 6. Oceny są konieczne, ale niewystarczające. Oceny pomagają mierzyć wydajność modelu na znanych przypadkach testowych, ale nie uchwycą pełnego doświadczenia produktu, przypadków brzegowych w produkcji ani satysfakcji użytkowników. Zespoły, które polegają wyłącznie na ocenach, wypuszczają produkty, które dobrze wypadają w testach, ale zawodzą w rzeczywistości. Połącz oceny z ciągłym monitorowaniem, pętlami informacji zwrotnej od użytkowników i narzędziami do obserwowalności, aby uchwycić to, co umykają automatyczne testy. 7. „Ciągła kalibracja” zastępuje tradycyjne cykle rozwoju produktu. Ponieważ modele AI dryfują, a oczekiwania użytkowników się zmieniają, zespoły muszą nieustannie mierzyć wydajność w rzeczywistym świecie i dostosowywać podpowiedzi, ograniczenia lub wersje modeli. Aish i Kiriti zalecają instrumentowanie swojego produktu, aby od dnia pierwszego zbierać informacje zwrotne od użytkowników i wyniki modelu, a następnie przeglądać te dane co tydzień. Bez ciągłej kalibracji twój produkt AI będzie cicho degradował, a użytkownicy odejdą, zanim to zauważysz. 8. Ciągłe wdrażanie dla AI oznacza wysyłanie aktualizacji modeli i zmian podpowiedzi jako kod, a nie ręczne interwencje. Tradycyjne oprogramowanie wdraża kod; produkty AI wdrażają kod plus wagi modeli, podpowiedzi i logikę pobierania. Aish i Kiriti opowiadają się za traktowaniem podpowiedzi i konfiguracji modeli jako wersjonowanych artefaktów w twoim pipeline CI/CD, z automatycznymi testami regresji za pomocą ocen. To zapobiega powszechnemu błędowi, w którym PM-y modyfikują podpowiedzi w interfejsie użytkownika i psują produkcję. Korzyść: możesz bezpiecznie iterować nad zachowaniem modelu i natychmiast cofnąć złe zmiany. 9. Produkty AI zawodzą, ponieważ zespoły nie doceniają znaczenia jakości danych. Aish i Kiriti zauważają, że zespoły spieszą się, aby dostosować modele lub dodać funkcje, nie audytując najpierw, czy ich dane treningowe i oceny rzeczywiście odzwierciedlają rzeczywiste użycie. Zasada „śmieci w, śmieci out” dotyczy AI podwójnie: jeśli twoje dane są przestarzałe, stronnicze lub niezgodne z potrzebami użytkowników, żadna ilość inżynierii podpowiedzi ani dostosowywania modelu cię nie uratuje. Zacznij od uporządkowania swoich danych.