bukankah TEE benar-benar lambat? Untuk mengeksekusi dan membuktikan sesuatu yang sebesar LLM, bukankah itu akan menjadi rintangan komputasi yang besar? Intel SGX menggunakan MPT untuk memeriksa integritas, yang membuat persyaratan mem meledak. Bagaimana Anda bahkan mencapainya untuk sesuatu seperti LLM?

Benar-benar hanya penasaran tentang bagaimana ini mungkin btw. Sepertinya pencapaian gila dan layak untuk dilihat

@rahulghangas jika itu adalah desain yang diberikan kendala hw maka TEE bukanlah solusi untuk masalah tersebut