keras教程-n-内存模型(Memory-Neural)理论和实践

2019年01月07日

这篇文章以介绍论文《A Memory-Augmented Neural Model for Automated Grading》为主, 后面会进行keras的代码实践。所以文字内容上很多都是翻译自这篇论文。

论文的主要内容是提出了使用内存神经网络进行作文自动化评分。我们假设每个评分等级都有足够的样本,
这些样本可以被用来给相似的作文打分。对于每个可能的评分，
选定部分评分相同的学生作文作为标准。
这些被选定的作文代表了评分标准，并存储在存储器组件中, 也就是我们说的”内存(Memory)”。
我们的模型会根据被评分的作文赋予标准作文不同的权重。本论文使用了”Kaggle的（ASAP）数据集”。结果表明我们的模型在8个作文集自动打分中，有7个是最先进的。

#keras教程

DataNitro教程系列(python控制Excel自动化替代VBA)

2019年01月06日

这个系列的教程好像是在2014年录制的, 距今已经大概4年多过去, 当时教程放在百度传课上售卖, 不过百度传课倒闭了,
所以我把这个系列教程重新上传到我自己的网站来, 希望对一些人有用吧!

#python #excel #datanitro #VBA

瑞文标准推理测验在线换算标准分,怎样计算百分等级

2019年01月04日

(一键转换器在文章最下面)

手动转换方式

瑞文推理测验需要将测验得分换算为标准分, 或者叫百分等级, 那么换算的方法就是对照如下的这个表格查找年龄和分数,
就可以得到百分位数:

#统计工具 #瑞文测验

stata教程10-项目反应使用irt命令进行单参数logit参数估计

2018年12月23日

#stata

stata教程11-raschtest模块进行项目反应试题分析

2018年12月23日

#stata

stata教程09-项目反应理论IRT的Rash模型

2018年12月22日

本篇文章主要演示了一下如何使用固定效应的条件逻辑回归模型来估计题目难度。

#stata

stata教程08-中介效应分析

2018年12月22日

#stata

stata教程07-常见样本量估计

2018年12月13日

我们常用PASS做样本量的计算, 不过本人更熟悉Stata, 所以我把常用的样本量计算情景都用stata实现了一遍, 希望对大家有用, 对自己也是一个备忘录。

#stata

stata教程06-计算AIC和BIC决定变量个数

2018年12月12日

在回归分析中, 解释变量的个数应当是越少越好, 因为模型越简洁应用范围越广, 也越容易被理解。但是, 为了模型拟合好, 我们又期望模型越复杂越好, 解释变量越多, 模型的拟合优度 $R^2$

数据介绍

使用上一篇教程用过的数据: icecream.dta, 具体内容可以参看上篇文章: stata教程05-自相关的检验和处理/

1	use data/icecream.dta, clear

进行回归分析

1	reg consumption temp price income

输出(stream):
Source | SS df MS Number of obs = 30 -------------+---------------------------------- F(3, 26) = 22.17 Model | .090250523 3 .030083508 Prob > F = 0.0000 Residual | .035272835 26 .001356647 R-squared = 0.7190 -------------+---------------------------------- Adj R-squared = 0.6866 Total | .125523358 29 .004328392 Root MSE = .03683 ------------------------------------------------------------------------------ consumption | Coef. Std. Err. t P>|t| [95% Conf. Interval] -------------+---------------------------------------------------------------- temp | .0034584 .0004455 7.76 0.000 .0025426 .0043743 price | -1.044413 .834357 -1.25 0.222 -2.759458 .6706322 income | .0033078 .0011714 2.82 0.009 .0008999 .0057156 _cons | .1973149 .2702161 0.73 0.472 -.3581223 .752752 ------------------------------------------------------------------------------

计算AIC&BIC

estat ic

输出(stream):
Akaike's information criterion and Bayesian information criterion ----------------------------------------------------------------------------- Model | Obs ll(null) ll(model) df AIC BIC -------------+--------------------------------------------------------------- . | 30 39.57876 58.61944 4 -109.2389 -103.6341 ----------------------------------------------------------------------------- Note: N=Obs used in calculating BIC; see [R] BIC note.

加入temp的1阶滞后项

1	reg consumption temp L.temp price income

输出(stream):
Source | SS df MS Number of obs = 29 -------------+---------------------------------- F(4, 24) = 28.98 Model | .103387183 4 .025846796 Prob > F = 0.0000 Residual | .021406049 24 .000891919 R-squared = 0.8285 -------------+---------------------------------- Adj R-squared = 0.7999 Total | .124793232 28 .004456901 Root MSE = .02987 ------------------------------------------------------------------------------ consumption | Coef. Std. Err. t P>|t| [95% Conf. Interval] -------------+---------------------------------------------------------------- temp | --. | .0053321 .0006704 7.95 0.000 .0039484 .0067158 L1. | -.0022039 .0007307 -3.02 0.006 -.0037119 -.0006959 | price | -.8383021 .6880205 -1.22 0.235 -2.258307 .5817025 income | .0028673 .0010533 2.72 0.012 .0006934 .0050413 _cons | .1894822 .2323169 0.82 0.423 -.2899963 .6689607 ------------------------------------------------------------------------------

再计算AIC&BIC

estat ic

输出(stream):
Akaike's information criterion and Bayesian information criterion ----------------------------------------------------------------------------- Model | Obs ll(null) ll(model) df AIC BIC -------------+--------------------------------------------------------------- . | 29 37.85248 63.41576 5 -116.8315 -109.995 ----------------------------------------------------------------------------- Note: N=Obs used in calculating BIC; see [R] BIC note.

我们可以看到AIC和BIC都下降了。

再加入temp的2阶滞后项

1	reg consumption temp L.temp L2.temp price income

输出(stream):
Source | SS df MS Number of obs = 28 -------------+---------------------------------- F(5, 22) = 21.92 Model | .103722201 5 .02074444 Prob > F = 0.0000 Residual | .020822754 22 .000946489 R-squared = 0.8328 -------------+---------------------------------- Adj R-squared = 0.7948 Total | .124544954 27 .004612776 Root MSE = .03077 ------------------------------------------------------------------------------ consumption | Coef. Std. Err. t P>|t| [95% Conf. Interval] -------------+---------------------------------------------------------------- temp | --. | .0047858 .0013502 3.54 0.002 .0019856 .007586 L1. | -.0010836 .0022905 -0.47 0.641 -.0058338 .0036666 L2. | -.0008022 .0013414 -0.60 0.556 -.0035841 .0019797 | price | -.7326035 .7214324 -1.02 0.321 -2.228763 .7635558 income | .0026704 .0011308 2.36 0.027 .0003252 .0050156 _cons | .1883478 .23949 0.79 0.440 -.3083241 .6850196 ------------------------------------------------------------------------------

再计算AIC&BIC

estat ic

输出(stream):
Akaike's information criterion and Bayesian information criterion ----------------------------------------------------------------------------- Model | Obs ll(null) ll(model) df AIC BIC -------------+--------------------------------------------------------------- . | 28 36.08382 61.12451 6 -110.249 -102.2558 ----------------------------------------------------------------------------- Note: N=Obs used in calculating BIC; see [R] BIC note.

我们可以看到, 在增加了L2项滞后, 我们的AIC和BIC反而上升, 说明增加二阶滞后项导致模型复杂度上升, 但并没有带来模型的拟合优度较大的上升, 也就是得不偿失。

总结

AIC和BIC是两个常用的用户评估模型复杂性的指标, 但是他们略有不同, BIC是一致估计, 而AIC不是, 但现实样本不可能无限大, 而BIC可能导致模型过小, 所以我们通常是综合考虑两个指标。

注意
本文由jupyter notebook转换而来, 您可以在这里下载notebook
统计咨询请加QQ 2726725926, 微信 mllncn, SPSS统计咨询是收费的
微博上@mlln-cn可以向我免费题问
请记住我的网址: mlln.cn 或者 jupyter.cn

#stata

stata教程05-自相关的检验和处理

2018年12月12日

OLS回归不满足球形扰动怎么办? 模型存在自相关怎么办? 怎么检验数据是否存在自相关? 下面我们就回答这些问题。

#stata