LinkedIn推出了一款新的檢測系統，用於檢測發佈貼中的違規內容。該系統依靠AI檢測功能，來優化審核員的工作流程。據LinkedIn稱，該舉措已經使一些用戶的曝光率大幅下降。

新系統正通過LinkedIn的AI閱讀器功能，過濾所有潛在的違規內容。然後再根據優先級進行過濾。

正如LinkedIn解釋道：

「根據該工作框架，待審核的內容由一組AI模型進行評分，然後計算出其違反我們政策的概率。對於大概率不會違規的內容，會被取消優先級，從而節省人工審核員的工作，而違規概率較高的內容，其優先級將調至更高，以保證它們可以更快地被檢測和刪除。」

你很可能會認為，類似的系統已經使用了一定程度的自動化，來判定內容的嚴重等級。但根據LinkedIn的說法，這種新式的、更為先進的AI工作流程，能夠對內容進行更好地排序，並通過優化人為審核的工作量，來確保最嚴重的違規行為得到最快的解決。

「這些模型是以過去人為標記的數據樣本為基礎，訓練而成的，並在其他歷史樣本中進行測試。我們利用隨機網格搜索，進行超參數選擇，並根據最高召回率，以最精准的方式選擇出了最終模型。」

LinkedIn表示，這種新的審核流程，可以根據設定好的精度標準，對約10%的待審核內容，做出自動決定，「這比典型的人工審核表現得要好」。

「由於工作量的縮減，我們能夠減輕人工審核員的負擔，讓他們能夠專注於對具有嚴重性和模糊性的內容，進行審核。通過動態優先排序待審核的內容，該框架還能將捕獲違規內容的平均時間減少約60%。」

雖然系統如何保持更新，並確保違規內容能夠被檢測到，可能會影響最終通過審核的內容，但這仍然是一個利用人工智能的良好案例。