2024 MAI 開發者大會以「Make AI a Reality」為精神，希望架起AI技術與應用的橋樑，廣邀開發社群先進擔任講者，2天共20場演講，為AI開發者及AI Maker們領路。CAVEDU共同創辦人曾吉弘博士特別以 NVIDIA Jetson 平台為例，說明邊緣裝置與生成式AI的結合開創新的可能性。
CAVEDU共同創辦人 曾吉弘博士
技術的進步與應用的融合
曾吉弘博士說明了邊緣裝置的基本概念以及重要性，強調邊緣裝置因其處理速度快、延遲低的特性，非常適合應用於即時數據處理和AI任務。他指出，邊緣裝置的獨特優勢，在於它們能在數據產出的地點進行即時運算處理，這對於需要即時回應的應用來說，是雲端伺服器無法比擬的。曾博士以 NVIDIA Jetson平台為例，詳述如何支援複雜的機器學習模型和深度學習應用，並展示了自動駕駛車輛和遠程醫療診斷等實際案例等實際案例，這些都是邊緣計算技術得以成功應用的範例。
(Source : 講者簡報)
(Source : 講者簡報)
生成式AI在邊緣裝置的實踐
演講中的重要一環是討論生成式AI如何在本地端邊緣裝置上運行以及其重要性。生成式AI技術，和本地端的LLM模型，能夠在沒有連接至大型數據中心的情況下，在裝置上直接生成新的數據和內容。曾博士表示，使用生成式AI，我們可以在本地端生成內容，不僅提升了處理速度，同時也增加了系統的隱私性和安全性。曾博士也詳細說明了將這些技術應用在教育領域的實際案例，例如如何利用 Jetson 平台在教室中實時生成學習內容和互動模擬，從而提供更個性化和吸引人的學習體驗。
(Source : 講者簡報)
未來展望與挑戰
曾吉弘博士預測未來科技和生成式AI結合邊緣裝置的前景。他認為隨著技術的不斷進步和取得成本逐漸降低，越來越多的行業將會採用這些先進的技術。同時也面臨許多新挑戰：如何進一步減少功耗、提高計算效率，如何解決隱私保護等問題。
(Source : 講者簡報)
整體來說，曾吉弘博士的演講不僅提供了對現有技術的深入分析，也激發了聽眾對於將這些技術應用於解決實際問題的興趣和想象。隨著生成式AI和邊緣計算技術的進一步融合和創新，未來無疑會帶來更多創新和突破，推動各行各業向前邁進。
- 【2024 MAI Talks】邊緣裝置結合生成式AI – NVIDIA Jetson平台為例 - 2024/09/26
- 開啟企業AI新紀元 英特爾Xeon 6和Gaudi 3正式發表 - 2024/09/26
- 益登打造NVIDIA Jetson資源交流平台 助力AI應用快速上手 - 2024/09/25
.jpg)
.jpg)