JAKARTA — Seiring kecerdasan buatan (AI) bergerak dari tahap uji coba menuju implementasi yang makin kritikal bagi bisnis, tantangan utama bergeser dari sekadar akses menjadi soal kepercayaan. Dalam konteks ini, perangkat open source dinilai dapat memperkuat kepercayaan karena komponen inti sistem dapat diperiksa dan distandarisasi, sehingga pengawasan terhadap AI modern menjadi lebih kuat.
Pada Selasa (17/3), Dataiku mengumumkan peluncuran 575 Lab, Open Source Office terbaru perusahaan tersebut. Melalui 575 Lab, Dataiku menyatakan akan merilis dua toolkit open source baru yang ditujukan untuk membantu perusahaan membuat sistem AI lebih transparan, dapat ditata kelola, dan siap digunakan dalam skenario dunia nyata.
575 Lab akan berfokus menghasilkan perangkat yang siap diimplementasikan untuk memperkuat aspek explainability, privasi, dan tata kelola pada sistem AI modern serta agentic systems. Dua proyek open source perdana yang akan diluncurkan meliputi Agent Explainability Tools dan Privacy-Preserving Proxies.
Agent Explainability Tools dirancang untuk membantu tim melacak dan memahami proses pengambilan keputusan dalam alur kerja agen multi-tahap. Dengan demikian, keputusan agen dapat dibuat lebih transparan bagi data scientist, tim kepatuhan, maupun pengguna akhir.
Sementara itu, Privacy-Preserving Proxies ditujukan untuk memungkinkan penggunaan model tertutup (closed-source model) secara lebih aman. Toolkit ini disebut melindungi data sensitif secara menyeluruh dari ujung ke ujung (end-to-end) dan dapat dijalankan secara lokal oleh tim.
Dataiku menyebut kedua proyek tersebut ditujukan untuk mendukung penerapan AI tingkat perusahaan yang bertanggung jawab, dengan penekanan pada reliabilitas, keamanan, transparansi, dan kemampuan penjelasan.
“Open source bukan sekadar model distribusi – ini adalah model kepercayaan,” ujar Hannes Hapke, Director 575 Lab, dalam siaran pers. Menurutnya, ketika sistem AI semakin otonom dan berdampak besar, perusahaan membutuhkan alat yang dapat diperiksa, diverifikasi, dan diadaptasikan. Ia menambahkan, fondasi yang dibangun secara terbuka dapat membantu tim mengelola risiko dan menggunakan AI secara bertanggung jawab.
Dataiku juga menyatakan 575 Lab membawa pengalaman satu dekade perusahaan dalam AI tingkat perusahaan ke dalam bentuk perangkat open source agar organisasi dapat memahami apa yang dilakukan AI dan tetap memegang kendali. Sebagai anggota Linux Foundation dan Agentic AI Foundation, Dataiku menyebut inisiatif ini dijalankan melalui kolaborasi erat dengan komunitas.
CEO dan co-founder Dataiku, Florian Douetteau, mengatakan banyak perusahaan kini membangun ekosistem agentic yang semakin kompleks. Menurutnya, agar lebih aman digunakan, diperlukan komponen dasar yang dapat digunakan ulang dan berpotensi menjadi standar dalam pengendalian serta inspeksi sistem agentic. “575 Lab berkontribusi pada open source untuk mendorong lahirnya standar tersebut dari komunitas,” ujarnya.
Dataiku menyatakan 575 Lab kini tersedia bagi komunitas spesialis AI, data scientist, dan developer yang membangun, menerapkan, serta menskalakan agen dan aplikasi AI di organisasi. Developer, pemimpin data, dan mitra disebut dapat mengikuti perkembangan proyek, bergabung sebagai kontributor, dan ikut membentuk infrastruktur kepercayaan terbuka untuk AI tingkat perusahaan berskala besar.
