Permintaan untuk aplikasi inferensi dan pelatihan AI terus meningkat, seiring dengan proyeksi IDC yang menyebutkan bahwa pengeluaran infrastruktur TI untuk semikonduktor AI akan mencapai $193,3 miliar pada akhir 2027, dengan CAGR 5 tahun sebesar 35,7%. Tambahan terbaru dari Dell dalam portofolionya, Dell XE9680 dengan akselerator Intel Gaudi 3, mengatasi tantangan pelanggan terkait dengan opsi GPU, tumpukan perangkat lunak sumber terbuka, jaringan, skalabilitas, biaya infrastruktur, dan efisiensi. Solusi yang kuat ini bertujuan untuk membantu pelanggan mengatasi masalah kompleks. XE9680 didukung oleh dua prosesor Intel Xeon Scalable Generasi ke-4 atau ke-5, termasuk 32 slot memori DDR5 DIMM untuk kapasitas memori berkecepatan tinggi, mendukung hingga 16 drive penyimpanan EDSFF3 atau 8x drive penyimpanan SAS/SATA/NVMe dan delapan slot PCIe Gen 5.0 untuk konektivitas dan bandwidth yang lebih luas. Memiliki port OSFP khusus untuk konektivitas GPU langsung. Gambar 1: Dell PowerEdge XE9680 Akselerator Intel Gaudi3 memberikan kinerja Gen AI yang kompetitif dengan 64 inti prosesor tensor (TPC) yang dapat diprogram, kapasitas memori HBMe2 sebesar 128 GB, dan 96 MB SRAM onboard. Pembeda utamanya adalah opsi jaringan fleksibel on-chip dengan 24x200GbE RDMA NIC untuk setiap kartu GPU yang mendukung port Ethernet RoCE standar industri. Ini juga dilengkapi dengan decoder media khusus yang dirancang untuk aplikasi visi AI. Gambar 2: Akselerator Intel Gaudi3 Dell PowerEdge XE9680, yang didukung oleh Gaudi3 dari Intel, menawarkan platform yang tangguh untuk beban kerja AI-ML. Perangkat ini unggul dalam pelatihan dan inferensi untuk LLMs, vLLMs, AI Percakapan, Chatbot, dan generasi video-ke-teks. Tunggu informasi lebih lanjut tentang hasil pengukuran kinerja Dell PowerEdge XE9680 dengan Gaudi 3.
Tag: dell
Produktivitas yang Meningkat: Penyimpanan PowerScale Tersertifikasi untuk NVIDIA DGX SuperPOD
Kemajuan Teknologi AI Generatif dan Penyimpanan Ethernet Dell PowerScale Di tengah kemajuan teknologi yang luar biasa saat ini, kecerdasan buatan (AI) telah muncul sebagai kekuatan transformatif di berbagai industri. Kenaikan AI generatif, khususnya, telah membuka potensi luar biasa dengan memungkinkan mesin untuk mensintesis dan menciptakan konten yang berharga. Pada konferensi global AI NVIDIA GTC, Dell mengumumkan PowerScale file storage sebagai penyimpanan berbasis Ethernet pertama di dunia yang disertifikasi untuk NVIDIA DGX SuperPOD. Solusi ini membantu bisnis memanfaatkan potensi penuh aplikasi berbasis AI. Kebangkitan AI Generatif AI generatif telah menandai titik balik signifikan dalam lanskap teknologi, memungkinkan mesin untuk menciptakan, meniru, dan belajar dari pola dalam dataset besar dengan intervensi manusia yang minim. Dari sektor kesehatan dan manufaktur hingga keuangan dan hiburan, AI generatif memiliki kekuatan untuk mentransformasi industri secara menyeluruh. Seiring dengan itu, permintaan akan solusi penyimpanan canggih yang mampu menangani volume data besar yang dibutuhkan oleh beban kerja AI telah meningkat pesat. Sertifikasi Dell selalu berada di garis depan inovasi, berkomitmen untuk menawarkan solusi mutakhir yang memenuhi kebutuhan bisnis yang terus berkembang. Pengumuman terbaru Dell tentang sertifikasi PowerScale sebagai penyimpanan berbasis Ethernet pertama untuk NVIDIA DGX SuperPOD merupakan langkah maju dalam kompatibilitas penyimpanan. Solusi ini menyederhanakan infrastruktur AI, memberikan kekuatan pada organisasi untuk membuka potensi sebenarnya dari inisiatif AI mereka. Martin Glynn, Direktur Senior Manajemen Produk Dell Technologies, menyatakan, “Sertifikasi penyimpanan Ethernet pertama di dunia untuk NVIDIA DGX SuperPOD dengan Dell PowerScale menggabungkan penyimpanan terdepan dari Dell dan sistem superkomputasi AI dari NVIDIA, memberdayakan organisasi untuk membuka potensi penuh AI, mendorong terobosan, dan mencapai hal-hal yang tampaknya mustahil.” “Untuk memanfaatkan kekuatan transformatif dari AI generatif, organisasi memerlukan infrastruktur yang tangguh dan skalabel untuk membuka wawasan dan mendorong inovasi,” kata Tony Paikeday, Direktur Senior Sistem AI di NVIDIA. “Sertifikasi Dell PowerScale sebagai penyimpanan Ethernet pertama di dunia yang beroperasi dengan NVIDIA DGX SuperPOD memberikan pilihan dan fleksibilitas lebih besar dalam implementasi infrastruktur AI yang skalabel.” PowerScale – Kinerja Ekstrem untuk Beban Kerja Generasi Mendatang** Dell PowerScale telah meraih kepercayaan dan pengakuan berkat skalabilitas, kinerja, dan keamanan yang luar biasa, hasil dari lebih dari satu dekade pengalaman. Sertifikasinya untuk NVIDIA DGX SuperPOD semakin memperkuat solusi penyimpanan Dell bagi organisasi yang ingin memanfaatkan kekuatan AI generatif. Berikut adalah alasan mengapa PowerScale menonjol: – Akses Jaringan yang Ditingkatkan. Teknologi seperti NVIDIA Magnum IO, GPUDirect Storage, dan NFS over RDMA secara native terintegrasi dengan NIC NVIDIA ConnectX dan switch NVIDIA Spectrum, mempercepat akses jaringan ke penyimpanan. Fitur canggih ini meminimalkan waktu transfer data ke dan dari PowerScale, memastikan throughput penyimpanan yang lebih cepat untuk pelatihan AI, checkpointing, dan tugas inferensi. – Kinerja Maksimal. Dell PowerScale menghadirkan Driver Klien Multipath baru yang mengoptimalkan throughput data dan memungkinkan organisasi mencapai kinerja tinggi yang diperlukan oleh DGX SuperPOD. Fitur inovatif ini memungkinkan bisnis untuk mempercepat pelatihan dan inferensi model AI, memfasilitasi integrasi yang mulus dengan platform NVIDIA DGX yang kuat. – Skalabilitas. Desain unik PowerScale memungkinkan penskalaan yang mudah hanya dengan menambahkan node baru, memberikan fleksibilitas dan agility yang tiada tara bagi bisnis. Fleksibilitas ini memastikan bahwa organisasi dapat menyesuaikan dan mengembangkan infrastruktur penyimpanan mereka seiring dengan pertumbuhan beban kerja AI mereka, menghindari kemacetan bahkan untuk kasus penggunaan AI yang paling menuntut. – Keamanan Tingkat Federal. PowerScale diakui karena kemampuan keamanannya yang unggul, mendapatkan pengakuan dalam Daftar Produk Disetujui Departemen Pertahanan AS. Penyelesaian proses ketat ini menegaskan kesesuaian PowerScale untuk aplikasi misi-kritis dan memperkuat perlindungan aset data yang penting. – Efisiensi. Arsitektur inovatif PowerScale dirancang untuk mengoptimalkan efisiensi. Dengan teknologi canggih, PowerScale memaksimalkan kinerja sambil meminimalkan konsumsi daya, serta mengurangi biaya operasional dan dampak lingkungan. Untuk mempercepat penerapan PowerScale dengan solusi NVIDIA DGX SuperPOD, Dell telah mengembangkan arsitektur referensi berikut. Dokumen putih tersebut menggambarkan integrasi mulus antara PowerScale dan NVIDIA DGX SuperPOD. Sertifikasi Dell PowerScale sebagai solusi penyimpanan berbasis Ethernet pertama di dunia yang disertifikasi untuk NVIDIA DGX SuperPOD merupakan pencapaian penting dalam lanskap AI yang terus berkembang. Kolaborasi Dell dengan NVIDIA membuka jalan bagi organisasi untuk memanfaatkan AI generatif dengan skalabilitas dan kinerja yang optimal. Dengan mengadopsi teknologi terdepan ini, bisnis dapat membuka potensi penuh AI dan mentransformasi operasi mereka, mendorong diri mereka ke era inovasi yang dipercepat dan pertumbuhan yang luar biasa. Ingin tahu lebih banyak mengenai dell server, silahkan hubungi qserver@ilogo.co.id
Menjaga Kemanan Pasien dengan Dell Technologies
Artikel ini diterjemahkan dari blog Dell Technologies. Dell Technologies membantu perusahaan Medacist membangun penawaran software cloud pribadi sebagai layanan otomasi perawatan kesehatan. Memberikan akurasi yang lebih baik dengan waktu pemrosesan yang lebih singkat Medacist mengkhususkan diri dalam analitisa penyimpangan obat, yakni layanan kesehatan yang khusus untuk mengidentifikasi pola tidak biasa yang dapat mengindikasikan kemungkinan penyalahgunaan. Perusahaan platform data perawatan kesehatan Genesis menerapkan analisis data – termasuk kecerdasan buatan (AI) dan pembelajaran mesin (ML/ Machine Learning) – untuk sejumlah besar data dari berbagai sumber di seluruh siklus hidup obat. Solusi komputasi dan penyimpanan yang andal, berskala, dan berperforma tinggi sangat penting bagi Medacist. Ketika perusahaan perlu mengintegrasikan beberapa sistem penyimpanan dan analisa ke bidang data bersama, David J. Brzozowski, Jr., Chief Technology Officer di Medacist, beralih ke Dell Technologies. Dengan bermitra dengan Dell Technologies untuk proyek modernisasi infrastruktur mereka dalam mendukung platform data perawatan kesehatan Genesis, Medacist sekarang dapat memberikan wawasan baru kepada lebih banyak klien dan lebih cepat dari sebelumnya. Landasan cloud pribadi berperforma tinggi dan berlatensi rendah mengintegrasikan server Dell EMC PowerEdge dan penyimpanan Dell EMC PowerScale. Inti dari sistem ini adalah cluster Hadoop yang berada di server Dell EMC PowerEdge R540 dan R640 yang menjalankan beban kerja AI yang menuntut termasuk pembelajaran mesin intensif dan algoritme statistik. Ini juga mencakup Kubernetes dan beban kerja pembelajaran mesin yang berjalan di server PowerEdge 740 dengan GPU NVIDIA®. Menurut David, “Kemitraan kami dengan Dell Technologies memungkinkan kami memanfaatkan keluasan dan kedalaman solusi komputasi, penyimpanan, jaringan, dan keamanan mereka. Dell Technologies menawarkan solusi terbaik di semua kategori ini.” Tim ini juga menggunakan VMware® vCenter™ dan VMware vSphere™ Enterprise Plus untuk mengelola sumber daya server virtual dan mengoptimalkan kinerja server, bersama dengan Dell EMC OpenManage Enterprise dan iDRAC. Sistem file terdistribusi PowerScale OneFS menyediakan manajemen untuk infrastruktur penyimpanan. Kombinasi ini membantu tim menyebarkan, memantau dan mengelola pembaruan sistem dengan mudah dan menambahkan teknologi baru. “OpenManage Enterprise menawarkan tampilan lengkap dari semua server di infrastruktur kami,” jelas David. “Ini adalah alat manajemen terpusat yang mudah digunakan yang memberi kami transparansi untuk mendeteksi dan mengatasi masalah segera setelah terjadi. Melalui OpenManage Enterprise, kami dapat memastikan bahwa infrastruktur PowerEdge kami berada pada tingkat tambalan firmware yang optimal. Kami mempertahankan kontrol tidak hanya atas patch keamanan sistem operasi, tetapi juga atas keamanan server secara keseluruhan. ” Kemudahan manajemen juga memungkinkan Medacist untuk menerima lebih banyak pelanggan dengan peningkatan jumlah pegawai yang minimal. Seperti yang dilaporkan David, “Saat kami bertumbuh dari 600 menjadi lebih dari 2.000 klien, kami mampu meminimalkan pertumbuhan dalam overhead manajemen sambil memberikan skalabilitas dan kinerja, peningkatan beban kerja yang diperlukan berkat infrastruktur Dell Technologies kami.” Solusi lengkap juga mengurangi jeda waktu pemrosesan data dari 24 jam menjadi hanya lima menit. Ini juga menyediakan 99,99% uptime, yang telah menghemat jutaan dolar Medacist dengan menjunjung tinggi perjanjian tingkat layanan klien (SLA). Apabila Anda berminat untuk memodernkan infrastruktur TI dengan produk Dell Technologies, Anda dapat menghubungi kami. Tim Product Specialist qServer akan membantu Anda menemukan produk dan sistem yang terbaik dan paling pas untuk memenuhi kebutuhan Anda. Segera hubungi kami untuk informasi dan penawaran menarik lainnya!