Jag är glad att kunna presentera vad jag har byggt upp de senaste månaderna: @ConcordanceAI Jag tror att mech interp och AI scaffolding är viktiga delar av framtiden för AI-system kunde inte vara mer siked att arbeta med @_trente_ och @mvyletel_jr på att föra detta till världen 1/
Concordance
Concordance25 okt. 02:00
Vi presenterar Concordance Closed Alpha: Anpassade inferensmodifikationer för interventioner på tokennivå Concordance bygger mjukvara för att tillämpa mech interp-strategier, med tesen att dessa kommer att förbättra kontroll, tillförlitlighet och observerbarhet samtidigt som de breddar designutrymmet och potentiella UX-mönster för AI-applikationer. 1/
Här är några lärdomar från de senaste månaderna om att bygga på inferensmotornivå och använda dessa modeller på helt nya sätt 2/
1. Små modeller störs mycket av små saker, t.ex. ostängd XML eller en EOS-token som inte ses när förväntat. Detta vässade faktiskt utvecklingsprocessen avsevärt och förfinade hur vi byggde SDK:n 3/
2. Små icke-tänkande modeller kan bli förvirrade av att prata med sig själva om det inte uttryckligen anges att de kommer att göra det. Självmanikulering är ett relativt underutforskat område och det finns mer att titta närmare på här, men de tidiga resultaten är lovande 4/
4. Modeller gillar verkligen inte att säga att de inte vet något. På grund av det, när du självfrågar, måste du rama in det i termer av har användaren angett X 6/
2,38K