Intel在Vision 24大會上宣布與合作夥伴共建AI開放平台，並展示了檢索增強生成（Retrieval Augmented Generation，RAG）技術，該技術能夠讓現有大型語言模型（LLM）搭配具有新資訊的資料庫，快速更新AI的「認知」。目前，使用LLM的一個主要問題是它只擁有訓練時輸入的資訊，對於訓練之後發生的事件一無所知。因此，重新訓練LLM加入新資料是一個耗時且昂貴的過程。
然而，檢索增強生成（RAG）技術能夠在現有LLM之上「外掛」包含新資料的資料庫，從而讓LLM能夠自動從資料庫中尋找資訊，簡化加入新資料的工作流程。這一技術的應用對於企業AI開放平台導入LLM和各種AI解決方案非常有幫助。此外，企業能夠下載開放的LLM並搭配私有資料庫，實現效益更高的部署便利性、最佳效能和價值，並且在本地端進行AI推論以降低資安風險，強化企業的生成式AI應用。
在Vision 24大會上，Intel執行長Pat Gelsinger展示了檢索增強生成（RAG）技術的實際應用。這一技術能夠協助使用者爬梳資訊，從資料庫中的文件檔案找出具有參考價值的回答。在展示中，搭配RAG的模型能夠回答演說的日期、時間、地點等資訊，並且能夠清楚回答搭配Gaudi 2加速器與Xeon處理器能帶來的TCO效益。
此外，我們還測試了不同的問題提示詞對回答造成的影響。搭配RAG的模型能夠降低不同提示詞所造成的回答偏差，提供更準確的回答。
總結來說，檢索增強生成（RAG）技術能夠在現有大型語言模型之上外掛資料庫，快速追加新資料，並提供更準確、實用的回答。這一技術對於企業AI開放平台的部署和生成式AI應用非常有價值。Intel與合作夥伴共建AI開放平台，致力於協助企業快速導入LLM與各種AI解決方案，開創更加智能、高效的AI應用時代。
延伸閱讀：[Intel Vision 24：Lunar Lake、Xeon 6處理器以及Gaudi](https://www.techbang.com/posts/89840-intel-vision-24-lunar-lake-xeon-6-processors-and-gaudi)
Share this content:
