Vertex Explainable AI 的限制

請注意,服務傳回的說明有以下幾項高階限制。

功能屬性的意義和範圍

分析 Vertex Explainable AI 提供的特徵歸因時,請注意下列事項:

  • 每項歸因只會顯示特徵對特定樣本預測結果的影響程度。單一歸因可能無法反映模型的整體行為。如要瞭解模型在整個資料集上的概略行為,請匯總整個資料集的歸因。
  • 歸因結果完全取決於訓練模型時使用的模型和資料。說明內容只會揭示模型在資料中發現的模式,無法偵測資料中的任何基礎關係。某項特徵的強烈歸因存在與否,並不代表該特徵與目標之間有或沒有關係。歸因只會顯示模型是否在預測時使用該特徵。
  • 單靠屬性無法判斷模型是否公平、沒有偏誤或品質良好。除了歸因之外,請仔細評估訓練資料和評估指標。

改善功能屬性

使用自訂訓練模型時,您可以設定特定參數來改善說明。本節不適用於 AutoML 模型。

下列因素對特徵歸因的影響最大:

  • 歸因方法會估算 Shapley 值。您可以透過下列方式提高近似值的精確度:

    • 增加積分梯度或 XRAI 方法的積分步驟數。
    • 增加 Sampled Shapley 方法的積分路徑數。

    因此歸因結果可能會大幅變動。

  • 屬性只會顯示特徵對預測值變動的影響程度 (相較於基準值)。請務必選擇有意義的基準,與您向模型提出的問題相關。切換基準後,歸因值和解讀方式可能會大幅變動。

  • 對於積分梯度和 XRAI,使用兩個基準可以改善結果。舉例來說,您可以指定代表全黑圖像和全白圖像的基準。

進一步瞭解如何改善功能歸因

圖片資料的限制

積分梯度和 XRAI 這兩種歸因方法支援圖片資料。

「積分梯度」是一種像素歸因方法,可醒目顯示影像中的重要區塊 (無論對比度為何),因此相當適合用於 X 光片等非自然影像。不過,由於輸出內容過於細微,因此難以評估各個區域的相對重要性。預設輸出內容會繪製外框,醒目顯示圖片中具有高正向歸因的區域,但這些外框不會排序,且可能會跨越物件。

XRAI 非常適合用來處理含有多個物件的高對比自然圖片。由於這種方法會產生區域歸因,因此會產生更平滑、更易於解讀的區域熱視圖,顯示特定圖片分類中最顯著的區域。

XRAI 適合處理下列類型的圖片輸入內容:

  • 對比度低的圖像,例如 X 光片。
  • 非常高或非常寬的圖片,例如全景相片。
  • 圖片過大,可能會導致整體執行時間變慢。