根據雅虎新聞報道,用於建立業務線應用程式的平臺 Retool 正在推出新工具來幫助用戶建立基於人工智慧的應用程序,包括用於向大型語言模型 (LLM) 添加上下文的託管向量儲存。 Retool 執行長兼聯合創始人 David Hsu 解釋說,許多客戶正在探索將人工智慧整合到他們的應用程式中,但大多數企業發現對其內部數據進行推理的價值。使用合理數量的數據對現有模型進行微調是可能的,但使用公司的所有生產數據是不可行的,而且數據很快就會過時。

爲了讓 LLM 能夠輕鬆訪問自定義數據,最先進的方法是將數據矢量化。谷歌、微軟、DataStax 和 MongoDB 等公司近幾個月都推出了矢量搜索服務。Hsu 認爲,Retool 客戶面臨的主要挑戰是將數據放入矢量化數據庫中並保持最新狀態。爲了解決這個問題,Retool 推出了 Retool Vectors,這是一種託管矢量存儲服務,其核心是 Postgres 的開源 pgvector 擴展。

Retool 還針對文本摘要和分類、圖像生成等常見用例推出了基於 AI 的操作。該公司與 OpenAI 合作開發了這些功能,其中包括集成到 Retool Workflows 中。OpenAI 首席運營官 Brad Lightcap 對此次合作表示興奮,他表示,像 Retool 這樣的工具可以幫助企業更快地將 AI 投入生產,而不會影響安全性。