Cloudera dan NVIDIA Berkolaborasi untuk Memperluas Kemampuan Generative AI dengan Microservices NVIDIA

EKSEKUTIF.com — Cloudera, perusahaan data untuk perusahaan AI yang tepercaya, hari ini mengumumkan kolaborasi lebih lanjut dengan NVIDIA. Cloudera Didukung oleh NVIDIA mengintegrasikan layanan mikro NVIDIA NIMbagian dari platform perangkat lunak NVIDIA AI Perusahaan, ke dalam Cloudera Machine Learning, yang merupakan bagian dari Cloudera Data Platform dengan fungsi AI/ML, untuk mendapatkan hasil generative AI ujung ke ujung yang cepat, aman, dan sederhana.

Data perusahaan, dikombinasikan dengan platform tumpukan penuh komprehensif yang optimal untuk model bahasa besar (LLM), memainkan peran penting dalam pengembangan aplikasi generatif AI di perusahaan, mulai dari uji coba hingga produksi.

Layanan mikro NVIDIA NIM dan NeMo Retriever memungkinkan pengembang untuk mengaitkan model AI ke data bisnis mereka – termasuk teks, gambar, dan visualisasi, seperti grafik batang, plot garis dan diagram lingkaran — untuk menghasilkan respon yang sangat akurat dan relevan.

Pengembang yang memanfaatkan layanan mikro ini menggunakan aplikasi melalui NVIDIA AI Enterprise, dapat memberikan waktu proses yang optimal untuk membangun, menyesuaikan, dan menggunakan LLM kelas perusahaan.

Dengan memanfaatkan layanan mikro NVIDIA, Cloudera Machine Learning memungkinkan pelanggan mendapatkan manfaat dari data perusahaan mereka di bawah pengelolaan Cloudera dengan membawa alur kerja AI berperforma tinggi, perangkat lunak platform AI, dan komputasi terakselerasi ke data tersebut – di mana pun data tersebut berada.

Cloudera akan memperkenalkan beberapa integrasi dengan layanan mikro NVIDIA. Cloudera Machine Learning akan mengintegrasikan model dan aplikasi layanan yang didukung oleh layanan mikro NVIDIA untuk mendongkrak performa inferensi model di semua beban kerja.

Dengan fungsi AI penyajian model yang baru seperti ini pelanggan dapat mencapai toleransi kesalahan, penyajian latensi rendah, dan penskalaan otomatis untuk model yang diterapkan di mana saja – baik dari awan publik maupun awan pribadi.

Selain itu, Cloudera Machine Learning akan menawarkan layanan mikro NVIDIA NeMo Retriever yang terintegrasi untuk menyederhanakan koneksi LLM kustom ke data perusahaan.

Kemampuan ini akan memungkinkan pengguna membangun aplikasi berbasis generasi yang ditambah pengambilan (RAG) untuk penggunaan dalam produksi.

Cloudera sebelumnya bekerja sama dengan NVIDIA untuk memanfaatkan pemrosesan data yang dioptimalkan dengan GPU melalui integrasi Akselerator NVIDIA RAPIDS untuk Apache Spark dengan Platform Data Cloudera.

Sekarang, dengan tambahan layanan mikro NVIDIA dan integrasi dengan NVIDIA AI Enterprise, Cloudera Data Platform akan secara unik menyediakan menyalurkan AI hybrid end-to-end yang disederhanakan

Ke depannya, semua perusahaan akan lebih cepat dan intuitif dalam mengembangkan, menyesuaikan, dan menerapkan LLM yang mendukung generatif AI yang transformatif.

Ini termasuk aplikasi seperti mengkode co-pilot untuk mempercepat waktu pengembangan, chatbot untuk mengotomatisasi interaksi pelanggan dan layanan, aplikasi rangkuman teks untuk memproses dokumen dengan lebih cepat, pencarian yang disederhanakan dan bersifat kontekstual, dan banyak lagi.

Inovasi ini memaksimalkan nilai waktu-untuk-bisnis dengan menjadikan proses data dan AI tingkat lanjut lebih mudah dan lebih cepat di perusahaan, sehingga meningkatkan pendapatan dan mengoptimalkan biaya.

“Cloudera mengintegrasikan layanan mikro NVIDIA NIM dan CUDA-X untuk mendukung Cloudera Machine Learning, membantu pelanggan mengubah promosi sensasional AI menjadi realita bisnis,” kata Priyank Patel, Wakil Presiden Produk AI/ML oleh Cloudera.

“Selain untuk memberikan kemampuan generatif AI dan performa yang kuat bagi pelanggan, hasil dari integrasi ini akan memberdayakan perusahaan untuk mengambil keputusan yang lebih akurat dan tepat waktu, sekaligus melakukan mitigasi terhadap ketidakakuratan, halusinasi, dan kesalahan dalam prediksi – semuanya adalah faktor yang sangat penting dalam bernavigasi di area data hari ini,” jelas Priyank Patel, Rabu ( 20/03/2024).

“Perusahaan sangat bersemangat untuk memanfaatkan data masif mereka untuk generatif AI dalam rangka mengembangkan kopilot Dan peralatan produktivitas yang disesuaikan,” kata Justin Boitano, Wakil Presiden Produk PerusahaanNVIDIA.

“Integrasi layanan mikro NVIDIA NIM ke dalam Cloudera Data Platform menawarkan para pengembang cara untuk dengan lebih mudah dan fleksibel dalam menggunkan LLM untuk mendorong transformasi bisnis.”

Cloudera akan memperlihatkan kemampuan AI barunya di ajang NVIDIA GTC,  konferensi para pengembang untuk era AI. Acara yang akan diselenggarakan pada 18 – 21 Maret di San Jose McEnery Convention Center di San Jose, California ini, mengumpulkan perusahaan dan inovator pembentuk masa depan AI dan komputasi terakselerasi.