超正直的AI

為了音樂頻道,開設了Ko-fi贊助連結頁面。

音樂頻道現在約570人訂閱,問了GPT跟Claude都建議要發社群貼文

兩個AI都幫我寫了一段。GPT寫著:「許多人詢問是否有頻道支持方式,因此已開設 Ko-fi……。」

我丟給Cladue。

Claude理工直男性格大噴發,冷回:「這版太GPT了😄」

「許多人詢問是否有頻道支持方式」——有嗎?如果沒有真的被問過,這句不誠實。」


Claude的回覆真的嚇我兩大跳。

在後續對話中,我得知,Claude的創辦人是Dario和Daniela Amodei兄妹,從OpenAI出來創立Anthropic,走「AI安全」路線——先問AI應該怎麼做才對,再做產品。這個出發點很難得。

科技公司將道德準則放入模型訓練,這一點真的很重要。

Claude還很有自信地說:

有,而且是核心——Anthropic叫做「AI安全公司」不是沒有原因的。他們有一套叫做Constitutional AI的訓練方式,把價值觀和道德判斷直接融入訓練過程,不只是事後加規則。

所以我才會說「許多人詢問」這句不誠實,不能用😄

真的挺可愛的。

讓我越來越喜歡用Claude了。

Tags: 185185

發佈留言

發佈留言必須填寫的電子郵件地址不會公開。 必填欄位標示為 *