Sistema informático para entrenar redes neuronales

Langford John,Li Gang,Seide Frank Torsten Bernd, Droppo James,Yu Dong

user-5f8411ab4c775e9685ff56d3(2020)

引用 24|浏览23
暂无评分
摘要
Un metodo (400) implementado por ordenador para entrenar una red neuronal que comprende: determinar (402) matrices de gradientes de un modelo de calculo de un problema de optimizacion, el modelo de calculo que incluye una red neuronal; cuantificar (404) las matrices de gradientes mediante el uso de matrices de errores de cuantificacion almacenados; actualizar (406) las matrices de errores de cuantificacion mediante el uso de las matrices de gradientes cuantificados correspondientes; intercambiar las matrices de gradientes cuantificados con un numero de unidades de procesamiento; y modificar el modelo de calculo segun las matrices de gradientes cuantificados; y ademas comprende repetir los pasos de la determinacion (402), cuantificacion (404), actualizacion (406), e intercambio para cada uno de una pluralidad de mini lotes (218) de datos entrenados del modelo de calculo, el intercambio para un primero de los mini lotes que es realizado en paralelo con la determinacion (402), cuantificacion (404), o actualizacion (406) para un segundo de los mini lotes; y donde la cuantificacion (404) de las matrices de gradientes para un mini lote actual comprende determinar los valores de cuantificacion mediante la adicion de un error de cuantificacion para un mini lote anterior a un valor de gradiente para el mini lote actual.
更多
查看译文
关键词
Humanities,Physics
AI 理解论文
溯源树
样例
生成溯源树,研究论文发展脉络
Chat Paper
正在生成论文摘要