点亮：语言可解释性工具：在可扩展的和框架不可知的界面中交互式分析NLP模型以理解模型

【文件属性】：
文件名称：点亮：语言可解释性工具：在可扩展的和框架不可知的界面中交互式分析NLP模型以理解模型
文件大小：20.8MB
文件格式：ZIP
更新时间：2021-02-04 17:06:46
visualization machine-learning natural-language-processing MachinelearningTypeScript :fire: 语言可解释性工具（LIT） 语言可解释性工具（LIT）是用于NLP模型的可视的交互式模型理解工具。 LIT旨在回答以下问题： 我的模型在什么样的例子上表现不佳？ 我的模型为何做出此预测？ 可以将这种预测归因于对抗行为，还是归因于训练集中的不良先验？ 如果更改文本样式，动词时态或代词性别之类的模型，我的模型的行为是否始终如一？ LIT通过基于浏览器的UI支持各种调试工作流。 功能包括： 通过显着图，注意力和对模型预测的丰富可视化进行本地解释。 聚合分析，包括自定义指标，切片和装仓以及嵌入空间的可视化。 通过手动编辑或生成器插件反事实生成，以动态创建和评估新示例。 并排模式