Selanjutnya, “explainable” adalah istilah terbuka, yang menentukan gagasan krusial lainnya ketika mempertimbangkan implementasi XAI. Memasukkan atau menyimpulkan penjelasan dari kode dan algoritme AI mungkin secara teoritis lebih disukai tetapi secara praktis bermasalah karena ada benturan antara sifat algoritme dan kode yang ditentukan di satu sisi dan fleksibilitas terminologi terbuka di sisi lain.
Memang, ketika interpretasi AI diuji dengan melihat parameter dan faktor paling kritis yang membentuk keputusan, pertanyaan seperti apakah AI yang “transparan” atau “dapat ditafsirkan” muncul. Seberapa tinggi ambang ini?