---
title: "バイオスタティスティクス基礎論 <br> 第2回講義テキスト"
author: "岩田洋佳 hiroiwata@g.ecc.u-tokyo.ac.jp"
date: "4/15/2022"
output: html_document
---


## パッケージ

このコードを実行するのに必要なパッケージ

```{r, message = F}
require(here)
require(plotly)
```

## 単回帰分析
飼育・栽培条件と動植物の生長の関係など、ある変数の変化が別の変数に影響を与える場合があります。このような変数間の関係をモデル化するための統計手法として回帰分析（regression analysis）が挙げられます。変数間の関係を統計的にモデル化することで、変数間に存在する因果関係について理解したり、一方の変数から他方の変数を予測したりすることができるようになります。 

ここでは、まず、2つの変数間の関係を“直線的な関係として”モデル化する単回帰分析（simple regression analysis）について解説します。なお、今回も前回と同様にイネのデータ（Zhao et al. 2011, Nature Communications 2:467）の解析を例に、単回帰分析の仕組みについて説明していきます。
まずは、前回と同じようにしてイネのデータを読み込みます。以下のコマンドを入力する前に、Rの作業ディレクトリを2つの入力ファイル（RiceDiversityPheno.csv, RiceDiversityLine.csv）があるディレクトリ（フォルダ）に変更しておく必要があります。

```{r}
# this data set was analyzed in Zhao 2011 (Nature Communications 2:467)
pheno <- read.csv("RiceDiversityPheno.csv")
line <- read.csv("RiceDiversityLine.csv")
line.pheno <- merge(line, pheno, by.x = "NSFTV.ID", by.y = "NSFTVID")
head(line.pheno)[,1:12]
```

読み込んだデータから単回帰分析に用いるデータだけを抜き出して、解析データの準備を行います。ここでは、草丈（Plant.height）と開花タイミング（Flowering.time.at.Arkansas）間の関係を解析します。なお、後ほど使う遺伝的背景を表す主成分得点（PC1〜PC4）も抜き出しておきます。また、欠測値をもつサンプルについてもあらかじめ取り除いておきます。

```{r}
# extract variables for regression analysis
data <- data.frame(
    height = line.pheno$Plant.height,
    flower = line.pheno$Flowering.time.at.Arkansas,
    PC1 = line.pheno$PC1,
    PC2 = line.pheno$PC2,
    PC3 = line.pheno$PC3,
    PC4 = line.pheno$PC4)
data <- na.omit(data)
head(data)
```

まずは、両者の関係を図示します。

```{r}
# look at the relationship between plant height and flowering time
plot(data$height ~ data$flower)
```

上図にも示されているように、開花が早いものほど草丈が小さく、遅くなるほど草丈が大きくなる傾向が見てとれます。

では、草丈の変異を開花のタイミングの違いによって説明する単回帰モデルを作成してみよう。

```{r}
# perform single linear regression
model <- lm(height ~ flower, data = data)
```

回帰分析の結果（推定されたモデル）は、modelに代入されています。回帰分析の結果を表示させるには関数summaryを用います。

```{r}
# show the result
summary(model)
```

では上のコマンドを実行して表示された結果について順に説明していきます。

>Call: <br>
>lm(formula = height ~ flower, data = data)

これは先ほど入力したコマンドが繰り返されたものです。入力した直後にこの出力が得られても、有用な情報でないように思われます。しかし、後で述べるように複数の回帰モデルを作って比較をする場合などには、どのようなモデルを想定して得られた結果であるかを再確認するのに有用だと思われます。なお、ここでは、草丈をy_i、開花のタイミングを$x_i$として、
$$
y_i = \mu + \beta x_i + \epsilon_i
$$
というモデルを想定して回帰分析を行っています。先述したように、$x_i$のことを独立変数（independent variable）または説明変数（explanatory variable）、$y_i$のことを従属変数（dependent variable）または応答変数（response variable）とよびます。$\mu$や$\beta$を回帰モデルのパラメータ（parameter）または母数、$\epsilon_i$を誤差（error）とよびます。また、$\mu$を母切片（population intercept）、$\beta$を母回帰係数（population regression coefficient）とよびます。

なお、回帰モデルのパラメータ$\mu$や$\beta$の真の値を直接知ることはできないため、標本をもとに推定を行います。標本をもとに推定されたパラメータμやβの推定値を、それぞれ、標本切片（sample intercept）および標本回帰係数（sample regression coefficient）とよびます。標本から推定された$\mu$や$\beta$の値を、以降、それぞれ、$m$、$b$で表します。$m$、$b$は、標本から推定される値であるため、偶然選ばれる標本に左右されて変動する確率変数です。したがって、ある確率分布に従います。詳細については後述します。

>Residuals: <br>
>Min 1Q Median 3Q Max <br>
>-43.846 -13.718 0.295 13.409 61.594

この出力は、残差の分布の概略を表しています。これを使うと簡単に回帰モデルのチェックができます。例えば、モデルでは誤差の期待値（平均）は0となることを想定していますが、中央値（median）がそこから大幅にはずれていないか確認することができます。また、誤差の最大値と最小値、または、25%点と75%点がほぼ同じ値をとっているかどうかで、0を中心として左右対称の分布をしているかを確認できます。この例では、最大値が最小値に比べて少し大きめですが、それ以外は特に大きな問題は見られません。

>Coefficients: <br>
>Estimate Std. Error t value Pr(>|t|) <br>
>(Intercept) 58.05464 6.92496 8.383 1.08e-15 *** <br>
>flower 0.67287 0.07797 8.630 < 2e-16 *** <br>
>— <br>
>Signif. codes: 0 ‘’ 0.001 ‘’ 0.01 ‘’ 0.05 ‘.’ 0.1 ‘ ’ 1

回帰モデルのパラメータ$\mu$、$\beta$の推定値$m$、$b$と、それに伴う標準誤差、$t$値、$p$値が表示されています。また、各行の最後の星印は、有意水準を視覚的に確認しやすくしたものです。1つ星は5%、2つ星は1%、3つ星は0.1%水準で有意であることを表しています。

>Residual standard error: 19 on 371 degrees of freedom <br>
>Multiple R-squared: 0.1672, Adjusted R-squared: 0.1649 <br>
>F-statistic: 74.48 on 1 and 371 DF, p-value: < 2.2e-16 

最初の行は、残差の標準偏差を表しています。これは、誤差分散$\sigma^2$の推定値を$s^2$とすると、$s$で表される値です。

2行目は、決定係数$R^2$です。また、補正$R^2$は、自由度調整済み決定係数とよばれる統計量です。いずれも回帰が説明する変動の度合いを表しています。 

3行目は、回帰モデルの有意性を表す$F$検定の結果です。全ての回帰係数 が0であるという仮説（帰無仮説）のもとでの検定であり、この$p$値が非常に小さい場合には、帰無仮説を棄却して対立仮説（回帰係数 は0でない）を採択すべきであると解釈されます。

では、回帰分析の結果を図示して眺めてみましょう。まず、散布図を描き、そこに回帰直線を引きます。

```{r}
# again, plot the two variables
plot(data$height ~ data$flower)
abline(model, col = "red")
```

次に、回帰モデルにデータをあてはめたとき場合のyの値を計算し、図示してみます。

```{r}
# calculate fitted values
height.fit <- fitted(model)
plot(data$height ~ data$flower)
abline(model, col = "red")
points(data$flower, height.fit, pch = 3, col = "green")
```

モデルをあてはめて計算される$y$の値は全て直線上に乗ります。
観察値$y$は、回帰モデルで説明される部分（モデルを当てはめたときの値）と、回帰で説明されない誤差部分の和として表されます。誤差部分について図示して、その関係を確認してみましょう。

```{r}
# plot residuals
plot(data$height ~ data$flower)
abline(model, col = "red")
points(data$flower, height.fit, pch = 3, col = "green")
segments(data$flower, height.fit,
         data$flower, height.fit + resid(model), col = "gray")
```

$y$の値は、モデルをあてはめて計算される$y$の値（緑色の点）とモデルの残差（灰色の線）の和として表されます。
実際には観察されていない$x=(60,80,...,140)$に対して、回帰モデルを用いて$y$を予測してみましょう。

```{r}
# predict unknown data
height.pred <- predict(model, data.frame(flower = seq(60, 140, 20)))

plot(data$height ~ data$flower)
abline(model, col = "red")
points(data$flower, height.fit, pch = 3, col = "green")
segments(data$flower, height.fit,
         data$flower, height.fit + resid(model), col = "gray")
points(seq(60, 140, 20), height.pred, pch = 2, col = "blue")
```

やはり、予測値は全て回帰直線の上に乗ります。

## 回帰モデルのパラメータの計算方法

ここでは、回帰モデルの計算法について解説します。また、実際にRのコマンドを使いながら回帰係数を計算してみます。
　先述したように単回帰のモデルは、
$$
y_i = m +b x_i + e_i
$$
として表現されます。この式は、観察値$y_i$が、回帰方程式で説明される部分$m+bx_i$と、回帰直線では説明されない誤差部分$e_i$から成ることを意味しています。上式の、$m$や$b$を動かすと、それに伴って誤差$e_i$も変化します。では、どのようにして“最適な”パラメータを求めればよいのでしょうか。

何をもって“最適”とするかについては様々な基準が考えられますが、ここでは、誤差$e_i$をデータ全体で最小にすることを考えてみます。 は正負両方の値をとりますので、単純に和をとると互いに相殺されてしまいます。そこで、$e_i$の2乗和（sum of squared error: SSE）を最小にすることを考えます。すなわち、
$$
SSE=\sum_{i=1}^n e_i^2 =\sum_{i=1}^n (y_i-(m+b x_i))^2
$$
を最小にするような$m$と$b$を考えてみましょう。
以下の図は様々な$m$と$b$に対するSSEの変化を表した図です。この図を描くためのコマンドは少し複雑ですが次のようになります。

```{r}
#visualize the plane for optimization
x <- data$flower
y <- data$height
m <- seq(0, 100, 1)
b <- seq(0, 2, 0.02)
sse <- matrix(NA, length(m), length(b))
for(i in 1:length(m)) {
    for(j in 1:length(b)) {
        sse[i, j] <- sum((y - m[i] - b[j] * x)^2)
    }
}
plotly::plot_ly(x = m, y = b, z = sse, type = "surface")
```

なお、上図においてSSEが最小となる点では、$m$や$b$が微小に変化してもSSEが変化しない（傾きがゼロ）状態になっているはずです。そこで、式(1)を$m$および$b$で偏微分して、その値をゼロとすることにより、最小点の座標を求めることができます。すなわち、
$$
\frac{\partial SSE}{\partial m}=0 \\
\frac{\partial SSE}{\partial b}=0
$$
としてこれを満たす$m$および$b$を求めればよいということになります。このように誤差の2乗和を最小にするという基準にしたがって回帰モデルのパラメータを計算する方法のことを最小二乗法（least squares method）とよびます。

$SSE$を最小化する$m$は、
$$
\frac {\partial SSE}{\partial m}=-2 \sum_{i=1}^n (y_i-m-b x_i) = 0 \\
\Leftrightarrow　\sum_{i=1}^n y_i -nm  -b \sum_{i=1}^n x_i =0 \\
\Leftrightarrow　m = \frac {\sum_{i=1}^n y_i} n - b \frac {\sum_{i=1}^n x_i} n =\bar y-b\bar x 
$$
として計算されます。

また、$SSE$を最小化する$b$は、
$$
\frac {\partial SSE}{\partial b}=-2 \sum_{i=1}^n x_i(y_i-m-b x_i) = 0 \\
\Leftrightarrow \sum_{i=1}^n x_iy_i-m \sum_{i=1}^n x_i - b \sum_{i=1}^n x_i^2 =0\\
\Leftrightarrow \sum_{i=1}^n x_iy_i- n(\bar y- b \bar x)\bar x- b \sum_{i=1}^n x_i^2 =0\\
\Leftrightarrow \sum_{i=1}^n x_iy_i - n\bar x \bar y- b \left(\sum_{i=1}^n x_i^2 -n\bar x ^2\right)=0\\
\Leftrightarrow b = \frac {\sum_{i=1} n x_i y_i - n\bar x \bar y}{\sum_{i=1} n x_i^2 - n\bar x^2}= \frac {SSXY}{SSX}
$$
ここで、$SSXY$と$SSX$は、$x$と$y$の偏差積和と$x$の偏差平方和で、それぞれ、
$$
SSXY = \sum_{i=1}^n (x_i - \bar x)(y_i - \bar y) \\
= \sum_{i=1}^n x_iy_i - \bar x \sum_{i=1}^n y_i - \bar y \sum_{i=1}^n x_i + n\bar x \bar y\\
= \sum_{i=1}^n x_iy_i - n\bar x \bar y - n\bar y\bar x + n\bar x\bar y\\
= \sum_{i=1}^n x_iy_i - n\bar x \bar y
$$
$$
SSX = \sum_{i=1}^n (x_i - \bar x)^2 \\
= \sum_{i=1}^n x_i^2 - 2 \bar x \sum_{i=1}^n x_i + n\bar x \\
= \sum_{i=1}^n x_i^2 - 2n\bar x^2 + n\bar x^2 \\
= \sum_{i=1}^n x_i^2 - n\bar x^2
$$
として計算されます。

  $SSE$を最少にする$m$と$b$をこれらパラメータの推定値とし、以降、単に$m$と$b$で表すことにします。すなわち、
$$
b=\frac {SSXY}{SSX} \\
m=\bar y- b \bar x
$$

では、回帰係数を上述した式をもとにして計算してみましょう。まずは、偏差積和と偏差平方和を計算します。

```{r}
# calculate sum of squares (ss) of x and ss of xy
n <- length(x)
ssx <- sum(x^2) - n * mean(x)^2
ssxy <- sum(x * y) - n * mean(x) * mean(y)
```

次に傾き$b$を計算します。
```{r}
# calculate b
b <- ssxy / ssx
b
```

切片$m$を計算します。
```{r}
# calculate m
m <- mean(y) - b * mean(x)
m
```

計算されたbとmをもとに回帰直線を描いてみましょう。
```{r}
# draw scatter plot and regression line 
plot(y ~ x)
abline(m, b)
```

先ほど関数lmを用いて計算された回帰直線と同じものが描かれていることを確認してみましょう。

なお、回帰パラメータが推定されれば、与えられた$x_i$に対応する$y$の値$\hat y_i$を計算することができるようになります。すなわち、
$$
\hat y_i=m+b x_i
$$
として計算できます。これにより、観察された$x$にモデルをあてはめたときの$y$の値を計算したり、$x$のみが既知の場合に$y$を予測したりすることができます。ここでは、観察された$x$にモデルをあてはめたときの$y$の値を計算し、先ほど描いた図の上に点を散布してみましょう。

```{r}
# calculate fitted values
y.hat <- m + b * x
lim <- range(c(y, y.hat))
plot(y, y.hat, xlab = "Observed", ylab = "Fitted", xlim = lim, ylim = lim)
abline(0, 1)
```

観察値とあてはめ値の一致の度合いを調べるために両者の相関係数を計算してみましょう。

```{r}
# calculate correlation between observed and fitted values
cor(y, y.hat)
```

実は、この相関係数の2乗が、回帰が説明する$y$の変動の割合（決定係数、$R^2$値）になっています。両者を見比べてみましょう。

```{r}
# compare the square of the correlation and R2 
cor(y, y.hat)^2
summary(model)
```

## 回帰モデルの有意性検定

変数間の直線的な関係が強い場合には回帰直線がよくあてはまり、両変数間の関係を回帰直線でうまくモデル化できます。しかし、変数間の直線的な関係が明瞭でない場合には、回帰直線によるモデル化がうまく行きません。ここでは、推定された回帰モデルの有効性を客観的に確認するための方法として、分散分析を用いた検定法について説明します。

まずは、再度、単回帰を行ってみましょう。
```{r}
model <- lm(height ~ flower, data = data)
```

得られた回帰モデルの有意性は、関数anovaを用いて検定できます。
```{r}
# analysis of variance of regression
anova(model)
```

分散分析の結果、変数flowerの項は高度に有意（$p<0.001$）であり、開花のタイミングflowerが草丈heightに影響を与えるという回帰モデルの有効性が確認できます。

回帰モデルの分散分析では、以下に示すような計算が行われます。まず、「回帰で説明される平方和」（回帰モデルをあてはめて計算される値$\hat y_i$の偏差平方和）は、以下のようにして計算できます。

$$
SSR=\sum_{i=1}^n (\hat y_i-\bar y)^2 \\ 
=\sum_{i=1}^n \left[\mu+bx_i-(\mu+\bar bx)\right]^2 \\
=b^2 \sum_{i=1}^n (x_i-\bar x)^2 \\
=b^2\cdot SSX=b \cdot SSXY
$$

また、観察値$y$の平均からの偏差の平方和は、回帰で説明される平方和$SSR$と残差平方和$SSE$の和として表されます。すなわち、
$$
SSY=\sum_{i=1}^n (y_i-\bar y)^2 \\ 
=\sum_{i=1}^n (y_i-\hat y_i+\hat y_i-\bar y)^2 \\ 
=\sum_{i=1}^n (y_i-\hat y_i )^2 +\sum_{i=1}^n (\hat y_i-\bar y)^2 \\ 
=SSE+SSR 
$$

では、上の式を用いて実際に計算してみましょう。まずは、回帰で説明される平方和SSRと残差平方和SSEを計算します。
```{r}
# calculate sum of squares of regression and error
ssr <- b * ssxy
ssr
## [1] 26881.49
ssy <- sum(y^2) - n * mean(y)^2
sse <- ssy - ssr
sse
```

次に、平方和を自由度で割った平均平方を計算します。
```{r}
# calculate mean squares of regression and error
msr <- ssr / 1
msr
mse <- sse / (n - 2)
mse
```

最後に回帰の平均平方を誤差の平均平方で割り、$F$値を計算します。さらに、計算された$F$値に対応する$p$値を計算します。
```{r}
(f.value <- msr / mse)
1 - pf(f.value, 1, n - 2)
```

得られる結果は、先ほど関数anovaを用いて計算された結果と一致しています。
なお、回帰の分散分析の結果は、関数summaryを用いて表示される回帰分析の結果の中にも含まれています。

```{r}
# check the summary of the result of regression analysis
summary(model)
```

「Residual standard error」は、残差の平均平方の平方根となっています。
```{r}
# square root of mse
sqrt(mse)
```

「Multiple R-squared」（$R^2$）は、決定係数（coefficient of determination）とよばれる値で、$SSR$と$SSY$の比です。
```{r}
# R squared 
ssr / ssy
```

「Adjusted R-squared」（$R_{adj}^2$）は、自由度調整済決定係数とよばれる値で、次のように計算できる。
```{r}
# adjusted R squared
(ssy / (n - 1) - mse) / (ssy / (n - 1))
```
 

また、「F-statistic」は、分散分析でflowerの効果として表されているF値とそのp値に一致します。また、flowerの回帰係数について計算されている$t$値を2乗すると$F$値になります（8.6302 = 74.477）。

なお、$R^2$および$R_{adj}^2$は、$SSR$、$SSY$、$SSE$を用いて以下のように表すこともできます。
$$
R^2=\frac {SSR}{SSY}=1-\frac {SSE}{SSY} \\
R_{adj}^2=1-\frac {n-1}{n-p}\cdot\frac {SSE}{SSY}
$$
ここで、$p$はモデルに含まれるパラメータの数で、単回帰モデルでは、$p = 2$になります。$R_{adj}^2$は、モデルに含まれるパラメータの数が多ければ多いほど、調整量が大きくなる（残差平方和の小ささを低く見積もる）ことが分かります。

## 回帰係数の推定値が従う分布

先述したように回帰係数$\mu$と$\beta$の推定値$m$と$b$は、標本から推定される値であり、偶然選ばれた標本に左右される確率変数です。したがって、推定値$m$と$b$は確率分布をもつ。ここでは、推定値の従う分布について考えます。

ここでは詳細は省きますが、推定値bは以下の正規分布に従います。
$$
b \sim N\left(\beta,\frac {\sigma^2}{SSX}\right)
$$

なお、ここで、$\sigma^2$は、誤差分散$\sigma^2=Var(y_i)=Var(e_i)$です。

いっぽう、推定値$m$は、以下の正規分布に従います。
$$
m \sim N\left(\mu ,\sigma^2 \left[\frac 1 n + \frac {\bar x^2}{SSX}\right]\right)
$$

なお、誤差分散$\sigma^2の真の値は未知ですが、これを残差分散$s^2$で置き換えることができます。すなわち、

$$
s^2  =  \frac {SSE}{n-2}
$$

です。この値は分散分析の際に計算した残差の平均平方です。

このとき、$b$に関する統計量
$$
t = \frac {b-b_0}{s⁄\sqrt{SSX}}  
$$
は、帰無仮説
$$
H_0: \beta = b_0
$$
のもとで、自由度$n – 2$の$t$分布に従います。

また、$m$についても統計量
$$
t =  \frac {m-m_0}{s\sqrt{\frac 1 n +\frac {\bar x^2} {SSX}}}
$$
は、帰無仮説
$$
H_0: \mu=m_0
$$
のもとで、自由度$n – 2$の$t$分布に従います。

$b$について、帰無仮説$H_0:\beta=0$について検定してみます。このとき、$b_0=0$であることに注意して、
```{r}
t.value <- (b - 0) / (sqrt(mse / ssx))
t.value
```

この統計量は、帰無仮説のもとで、自由度371（$n-2$）のt分布にしたがいます。図で描いてみると
```{r}
# visualize the t distribution under H0
s <- seq(-10, 10, 0.2)
plot(s, dt(s, n - 2), type = "l")
abline(v = t.value, col = "green")
abline(v = - t.value, col = "gray")
```

帰無仮説のもとで従う分布からみると、得られてる$t$の値が大きいように見えます。実際に$t$検定を行ってみます。両側検定であることに注意して、

```{r}
# perform t test
2 * (1 - pt(abs(t.value), n - 2)) # two-sided test 
```

この検定の結果は、回帰分析結果として既に表示されていたものです。

```{r}
# check the summary of the model
summary(model)
```

上で行った仮説検定は、任意の$b_0$について行うことができます。例えば、帰無仮説$H_0:\beta=0.5$について検定してみましょう。
```{r}
# test beta = 0.5
t.value <- (b - 0.5) / sqrt(mse/ssx)
t.value
2 * (1 - pt(abs(t.value), n - 2))
```

mについても検定を行ってみましょう。帰無仮説$H_0:\mu=0$の検定を行ってみましょう。

```{r}
# test mu = 0
t.value <- (m  - 0) / sqrt(mse * (1/n + mean(x)^2 / ssx))
t.value
2 * (1 - pt(abs(t.value), n - 2))
```

この結果もやはり、既に計算されていたものでした。

```{r}
# check the summary of the model again
summary(model)
```

最後に、帰無仮説$H_0:\mu=70$について検定してみましょう。
```{r}
# test mu = 70
t.value <- (m  - 70) / sqrt(mse * (1/n + mean(x)^2 / ssx))
t.value
2 * (1 - pt(abs(t.value), n - 2))
```

結果は、5%水準でも有意ではありませんでした。帰無仮説が正しいときに従うt分布を図示して、確認してみましょう。

```{r}
# visualize the t distribution under H0
s <- seq(-5, 5, 0.1)
plot(s, dt(s, n - 2), type = "l")
abline(v = t.value, col = "green")
abline(v = -t.value, col = "gray")
```


## 推定値や予測値の信頼区間

関数predictには様々な機能があります。まずは回帰モデルを単純に引数として関数を使ってみましょう。するとモデルをあてはめたときの$y$の推定値$\hat y$が計算されます。その推定値は関数fittedで計算されるものと全く同じです。

```{r}
# fitted values
pred <- predict(model)
head(pred)
head(fitted(model))
```

オプションintervalとlevelを設定すると、モデルをあてはめたときの$y$の推定値、$\hat y$の信頼区間（デフォルト設定は95%信頼区間）を計算できます。

```{r}
# calculate confidence interval
pred <- predict(model, interval = "confidence", level = 0.95)
head(pred)
```

関数predictを用いて$y$の推定値$\hat y$の95%信頼区間を図示してみましょう。

```{r}
# draw confidence bands
pred <- data.frame(flower = 50:160)
pc <- predict(model, interval = "confidence", newdata = pred)
plot(data$height ~ data$flower)
matlines(pred$flower, pc, lty = c(1, 2, 2), col = "red")
```

次に、未知のデータを予測する場合について考えます。未知データについて観察されるであろう$y$の値、すなわち、予測値$\tilde y$ には、誤差によるばらつきがさらに加わります。predict関数を用いて、予測値の95%信頼区間を図示してみましょう。
```{r}
pc <- predict(model, interval= "prediction", newdata = pred)
plot(data$height ~ data$flower)
matlines(pred$flower, pc, lty = c(1, 2, 2), col = "green")
```

誤差が加わる分、予測値$\tilde y$のばらつきは推定値$\hat y$に比べて大きくなります。
なお、ある特定のxについてだけ、推定値$\hat y$の信頼区間と、予測値$\tilde y$の信頼区間を求めるには以下のようにします。ここでは、$x=120$のときの99%信頼区間を求めてみます。

```{r}
# estimate the confidence intervals for the estimate and prediction of y 
pred <- data.frame(flower = 120)
predict(model, interval = "confidence", newdata = pred, level = 0.99)
predict(model, interval = "prediction", newdata = pred, level = 0.99)
```

## 多項式回帰モデルと重回帰モデル

ここまでは、2つの変数間の関係を直線で表す回帰モデルをデータに適用してきました。ここでは、回帰モデルを少し拡張してみましょう。
まず、多項式回帰（polynomial regression)とよばれる方法で回帰を行ってみましょう。多項式回帰では、
$$
y_i=\mu+\beta_1 x_i+\beta_2 x_i^2+\cdots+\beta_p x_i^p+\epsilon_i
$$
というかたちでxの2次以上の項も用いて回帰を行います。まずは、$x$の1次の項と2次の項を用いて回帰を行ってみましょう。


```{r}
# polynomial regression
model.quad <- lm(height ~ flower + I(flower^2), data = data)
summary(model.quad)
```

多項式回帰モデルで説明される$y$の変動の割合（決定係数$R^2$）が、単回帰モデルに比べて向上していることが分かります。

なお、後述しますがこの値だけで多項式回帰モデルが優れていると判断してはいけません。なぜなら、多項式回帰モデルのほうが単回帰モデルに比べてパラメータが多く、データへモデルの当てはめを行う場合の柔軟性が高くなっているからです。柔軟性を上げることでモデルのデータへのあてはまりを向上させるのは簡単なことで、極端な例を挙げるとデータ数と同じだけのパラメータがあればモデルをデータに完全にあてはめることができます（その場合、決定係数$R^2$は完全に1に一致します）。したがって、最適なモデルを選択する場合には、何らかの統計的基準による注意深い検討が必要となります。これについては後述します。

では、多項式回帰の結果を信頼区間付きで図示してみましょう。

```{r}
# plot(data$height ~ data$flower)
pred <- data.frame(flower = 50:160)
pc <- predict(model.quad, interval = "confidence", newdata = pred)
plot(data$height ~ data$flower)
matlines(pred$flower, pc, lty = c(1, 2, 2), col = "red")
```

多項式回帰では、開花のタイミングが播種後120日以上の場合には推定値の信頼性が低いことが分かります。
では、多項式回帰モデルと単回帰モデルの説明力を視覚的に比較してみましょう。

```{r}
# compare predicted and observed values
lim <- range(c(data$height, fitted(model), fitted(model.quad)))
plot(data$height, fitted(model), 
        xlab = "Observed", ylab = "Expected",
        xlim = lim, ylim = lim)
points(data$height, fitted(model.quad), col = "red")
abline(0, 1)
```

上図は、単回帰モデル（黒）および2次の多項式モデル（赤）における推定値と観察値の関係を表しています。

では、2次の多項式モデルの説明力の向上が統計的に有意かどうか検定してみましょう。有意性は、2つのモデルの残差平方和の違いが、一方を内包している側のモデル（ここではModel 2がModel 1を内包している）の残差平方和に比べて十分大きいかを$F$検定によって検定します。

```{r}
# compare error variance between two models
anova(model, model.quad)
```

結果、両モデルの残差分散の違いは高度に有意($p<0.001$)であることが分かります。すなわち、Model 2がModel 1に比べて有意に説明力が高いといえます。

では、3次の多項式回帰モデルをあてはめ、2次のモデルに比べて有意に説明力が高いか検定してみましょう。

```{r}
# extend polynormial regression model to a higher dimensional one...
model.cube <- lm(height ~ flower + I(flower^2) + I(flower^3), data = data)
summary(model.cube)
# compare error variance between two models
anova(model.quad, model.cube)
```

2次のモデルに比べ、3次のモデルは説明力が少しだけ向上しています。しかし、その差は統計的に有意ではありません。すなわち、2次のモデルを3次のモデルに拡張するのは良策でないことが分かります。
最後に、重回帰（multiple linear regression)モデルをあてはめてみましょう。 重回帰では、
$$
y_i=\mu+\beta_1 x_{1i}+\beta_2 x_{2i}+\cdots+\beta_p x_{pi}+\epsilon_i
$$
というかたちで複数の説明変数（$x_{1i},x_{2i},\dots,x_{pi}$）を用いて回帰を行います。第1回の講義において、草丈（height）が遺伝的背景の違いによっても異なることをグラフで確認しました。ここでは4主成分の得点として表された遺伝的背景（PC1〜PC4）を用いて草丈を説明する重回帰モデルを作成してみます。

```{r}
# multi-linear regression with genetic background 
model.wgb <- lm(height ~ PC1 + PC2 + PC3 + PC4, data = data)
summary(model.wgb)
anova(model.wgb)
```

回帰モデルの決定係数が、先ほどの多項式回帰モデルに比べても高いことが分かります。分散分析の結果を見てもいずれの主成分も有意で、回帰に含める必要があることが分かります。

最後に、多項式回帰モデルと重回帰モデルを組合せてみましょう。

```{r}
# multi-linear regression with all information
model.all <- lm(height ~ flower + I(flower^2) + PC1 + PC2 + PC3 + PC4, data = data)
summary(model.all)
# compare error variance
anova(model.all, model.wgb)
```

草丈に対する遺伝的背景の効果は非常に大きいのですが、それだけでなく、開花のタイミングの効果についても加えたほうが、モデルの説明力が向上することが分かります。

最後に、最初に作成した単回帰モデルと最後に作成した重回帰モデルを、観察値と推定値の対散布を描いて比較してみましょう。
```{r}
# compare between the simplest and final models
lim <- range(data$height, fitted(model), fitted(model.all))
plot(data$height, fitted(model), xlab = "Observed", ylab = "Fitted", xlim = lim, ylim = lim)
points(data$height, fitted(model.all), col = "red")
abline(0,1)
```

$x$の値が大きいときのあてはまりの悪さは、解決していないことが分かります。

## 実験計画法と分散分析

実験結果をもとに結論を得ようとする場合に、いつも問題になるのが観察値に含まれる誤差の存在です。どれほど精密な実験を行っても誤差は不可避なものであり、特に圃場での実験では圃場内にみられる微細な環境の違いによって誤差が生じます。したがって、誤差があってもそれに影響されずに客観的な結論を得るために工夫された方法が実験計画法（experimental design）です。

まず、実験を計画する上で、非常に重要なのは以下に示すFisherの3原則（Fisher’s three principles）です。

1.	反復（replication）：実験結果について統計的検定ができるようにするために、同じ処理について反復を設けます。例えば、１つの品種を複数回評価するようにします。1反復分に相当する実験単位のことをプロット（plot）とよびます。
2.	無作為化（randomization）：誤差の影響がランダムになるようにする操作のことを無作為化といいます。例えば、圃場試験の例では、品種を圃場内のプロットにサイコロや乱数を用いてランダムに割り付けます。
3.	局所管理（local control）：局所管理とは圃場をブロック（block）とよばれる区画に分け、各ブロッック内の環境条件ができるだけ均質になるように管理することです。圃場試験の例では、圃場のあるまとまった区画をブロックという小さな単位に分割することで、ブロック内の栽培環境ができるだけ均質になるようにします。圃場全体の栽培環境を均質にするより、ブロック毎に均質かするほうが容易です。

なお、圃場をいくつかのブロックに分割して、ブロック内ではできるだけ栽培環境が均質になるようにして行う実験法を乱塊法（randomized block design）といいます。乱塊法では圃場をブロックに分割して、各ブロック内での品種の割り付けは無作為に行います。ブロックの数が反復数となります。

では、簡単なシミュレーションを通して、乱塊法における統計検定の方法について説明します。まずはシミュレーションを開始する前に、乱数の「種」を設定しましょう。乱数の種とは擬似乱数を発生するためのもとになる値です。

```{r}
# set a seed for random number generation
set.seed(12)
```

では、早速シミュレーションを始めましょう。なお、ここでは、16個のプロット（plot）が4×4で配置されている圃場を考えます。そして、その圃場に地力の勾配がある状況を考えます。

```{r}
# The blocks have unequal fertility among them
field.cond <- matrix(rep(c(4,2,-2,-4), each = 4), nrow = 4)
field.cond
```

もっとも地力が高いところでは+4、低いところでは-4の効果があるとしました。

ここで、Fisherの3原則にしたがってブロックを配置します。ブロックは、地力の違いをうまく反映できるように配置します。

```{r}
# set block to consider the heterogeneity of field condition
block <- c("I", "II", "III", "IV")
blomat <- matrix(rep(block, each = 4), nrow = 4)
blomat
```

次に、Fisherの3原則にしたがって品種を各ブロックに無作為に配置します。まずはそのための準備をしましょう。

```{r}
# assume that there are four varieties
variety <- c("A", "B", "C", "D")
# sample the order of the four varieties randomly
sample(variety)
sample(variety)
```

では、各ブロックに無作為に品種を割り付けてみましょう。
```{r}
# allocate the varieties randomly to each column of the field
varmat <- matrix(c(sample(variety), sample(variety), 
            sample(variety), sample(variety)), nrow = 4)
varmat
```

4品種にみられる遺伝的能力の違いを考えます。A〜D品種の遺伝的能力をそれぞれ+4, +2, -2, -4とします。
```{r}
# simulate genetic ability of the varieties
g.value <- matrix(NA, 4, 4)
g.value[varmat == "A"] <- 4
g.value[varmat == "B"] <- 2
g.value[varmat == "C"] <- -2
g.value[varmat == "D"] <- -4
g.value
```

環境によるばらつきを平均0、標準偏差2.5の正規分布からの乱数として生成します。

```{r}
# simulate error variance (variation due to the heterogeneity of local environment)
e.value <- matrix(rnorm(16, sd = 2.5), 4, 4)
e.value
```

なお、上のコマンドでは乱数を発生していますが、皆さんも教科書と同じ値が得られると思います。これは、発生される乱数が疑似乱数であり、ある一定の規則に従って生成されているためです。なお、先に設定した乱数の種の値を変えると、上に示されている値と同じものは生成されません。また、実行する毎に異なる数値が生成されます。

最後に、全体平均、地力の勾配、品種の遺伝的能力、環境によるばらつきを足し合わせ、形質の観察値を模擬的に生成します。

```{r}
# simulate phenotypic values
grand.mean <- 50
simyield <- grand.mean + field.cond + g.value + e.value
simyield
```

分散分析を行う前に行列のかたちになっているデータを列データに直し、束ね直します。

```{r}
# unfold a matrix to a vector
as.vector(simyield)
as.vector(varmat)
as.vector(blomat)
```

以下、データフレームとしてデータを束ねています。
```{r}
# create a dataframe for the analysis of variance
simdata <- data.frame(variety = as.vector(varmat), 
                      block = as.vector(blomat), 
                      yield = as.vector(simyield))
head(simdata, 10)

```

作成したデータを関数interaction.plotを使って図示してみます。
```{r}
# draw interaction plot
interaction.plot(simdata$block, simdata$variety, simdata$yield)
```

品種間差と同じようにブロック間差が大きいことが見てとれます。

では、準備したデータを用いて分散分析を行ってみましょう。
```{r}
# perform the analysis of variance (ANOVA) with simulated data
res <- aov(yield ~ block + variety, data = simdata)
summary(res)
```

ブロック効果も品種効果も高度に有意であることが分かります。なお、前者は検証の対象ではなく、あくまで品種効果を正しく推定するためにモデルに組み込まれていることに注意しましょう。

上述した分散分析は、回帰モデルの推定のための関数lmを用いても行うことができます。

```{r}
# perform ANOVA with a linear model
res <- lm(yield ~ block + variety, data = simdata)
anova(res)
```

## 乱塊法と完全無作為配置

Fisherの3原則の1つである局所管理は、プロット間の異質性が高い圃場で精度の高い実験を行うために非常に重要です。ここでは、先ほどと同じ環境条件を想定して、ブロックを設けずに実験を行うことを考えてみます。

先ほどのシミュレーション実験では列毎にブロック化し、そのブロック内でA, B, C, Dを無作為に配置しました。ここでは4品種×4反復のプロットを、圃場全体に完全に無作為に配置します。このようにブロックを配置せず、完全に無作為に配置して行う実験を「完全無作為配置（completely randomized design）」とよびます。

```{r}
# completely randomized the plots of each variety in a field
varmat.crd <- matrix(sample(varmat), nrow = 4)
varmat.crd
```

今回は、圃場全体に無作為に割り振っているので、列毎に品種の出現頻度が異なることに注意しましょう。

完全無作為配置の品種の並びに合わせて遺伝効果を割り当てます。
```{r}
# simulate genetic ability of the varieties
g.value.crd <- matrix(NA, 4, 4)
g.value.crd[varmat.crd == "A"] <- 4
g.value.crd[varmat.crd == "B"] <- 2
g.value.crd[varmat.crd == "C"] <- -2
g.value.crd[varmat.crd == "D"] <- -4
g.value.crd
```

先ほどのシミュレーション実験と同様に、全体平均、地力の勾配、品種の遺伝効果、環境によるばらつきを足し合わせます。
```{r}
# simulate phenotypic values
simyield.crd <- grand.mean + g.value.crd + field.cond + e.value
simyield.crd
```

データフレームとしてデータを束ねます。
```{r}
# create a dataframe for the analysis of variance
simdata.crd <- data.frame(variety = as.vector(varmat.crd), 
                            yield = as.vector(simyield.crd))
head(simdata.crd, 10)
```

では、模擬的に生成されたデータについて分散分析を行ってみましょう。先ほどの実験とは異なりブロックを設定していないのでブロック効果は含めないで品種効果だけを含むモデルで回帰分析を行います。

```{r}
# perform ANOVA
res <- lm(yield ~ variety, data = simdata.crd)
anova(res)
```

上の例では、品種効果は、有意ではありません。これは地力の勾配により誤差が大きくなり、品種間の遺伝的な違いが十分な精度で推定できなくなっているためだと考えられます。

なお、上述したシミュレーション実験を100回繰り返して行ってみました（次ページに示します）。その結果、乱塊法を用いた実験では100回のうち94回の実験で品種効果を検出（有意水準5%）できましたが、完全無作為配置では66回しか検出できませんでした。また、有意水準を1%に設定すると、品種効果が検出される回数がそれぞれ70回、30回となりました（完全無作為配置では70回品種効果を見逃す！）。このことからも、地力の勾配など、ブロックを設定することである程度制御ができるような場合には、乱塊法の採用が非常に有効であることが分かります。時間と労力をかけて行う実験をできるだけ有効なものにするためには、実験計画を適切に組むことが非常に重要なのです。

```{r}
# perform multiple simulations
n.rep <- 100
p.rbd <- rep(NA, n.rep)
p.crd <- rep(NA, n.rep)
for(i in 1:n.rep) {
    # experiment with randomized block design
    varmat <- matrix(c(sample(variety), sample(variety), 
            sample(variety), sample(variety)), nrow = 4)
    g.value <- matrix(NA, 4, 4)
    g.value[varmat == "A"] <- 4
    g.value[varmat == "B"] <- 2
    g.value[varmat == "C"] <- -2
    g.value[varmat == "D"] <- -4
    e.value <- matrix(rnorm(16, sd = 2.5), 4, 4)
    simyield <- grand.mean + field.cond + g.value + e.value
    simdata <- data.frame(variety = as.vector(varmat), 
            block = as.vector(blomat), yield = as.vector(simyield))
    res <- lm(yield ~ block + variety, data = simdata)
    p.rbd[i] <- anova(res)$Pr[2]
    
    # experiment with completed randomized design
    varmat.crd <- matrix(sample(varmat), nrow = 4)
    g.value.crd <- matrix(NA, 4, 4)
    g.value.crd[varmat.crd == "A"] <- 4
    g.value.crd[varmat.crd == "B"] <- 2
    g.value.crd[varmat.crd == "C"] <- -2
    g.value.crd[varmat.crd == "D"] <- -4
    simyield.crd <- grand.mean + g.value.crd + field.cond + e.value
    simdata.crd <- data.frame(variety = as.vector(varmat.crd), 
                            yield = as.vector(simyield.crd))
    res <- lm(yield ~ variety, data = simdata.crd)
    p.crd[i] <- anova(res)$Pr[1]
}
sum(p.rbd < 0.05) / n.rep
sum(p.crd < 0.05) / n.rep
sum(p.rbd < 0.01) / n.rep
sum(p.crd < 0.01) / n.rep
```

## レポート課題

1. 一穂あたりの種子数（Seed.number.per.panicle）を従属変数y、穂長（Panicle.length）を独立変数xとして、単回帰モデル($y_i=\mu+\beta x_i+\epsilon_i$)をあてはめ、$\mu$と$\beta$の推定値である標本切片$m$と標本回帰係数$b$を求めよ。
2. 帰無仮説$H_0:\beta=0.02$について検定を行え。
3. 帰無仮説$H_0:\mu=5$について検定を行え。
4. $x=27$のときの$y$の推定値$\hat y$と予測値$\tilde y$ の95%信頼区間を答えよ。
5. $x$の1次の項と2次の項を用いた多項式回帰モデル($y_i=\mu+\beta_1 x_i+\beta_2 x_i^2+\epsilon_i$)をあてはめ、決定係数$R^2$と自由度決定済決定係数$R_{adj}^2$を答えよ。
6. 5の回帰モデルと、1の回帰モデルを分散分析で比較して、回帰モデルに$x$の2次の項を入れることの有効性について検討せよ。
7. $x$の1〜３次の項を用いた多項式回帰モデル$y_i=\mu+\beta_1 x_i+\beta_2 x_i^2+\beta_3 x_i^3+\epsilon_i$)をあてはめ、決定係数$R^2$と自由度決定済決定係数$R_{adj}^2$を答えよ。
8. 7の回帰モデルと、5の回帰モデルを分散分析で比較して、2次の多項式モデルを3次の多項式モデルに拡張することの有効性について検討せよ。

提出方法：
	レポートはhtmlまたはpdfファイルとして作成し、ITC-LMSを通じて提出する。

	ただし、ITC-LMSが何らかの理由で利用できないときは、「report@iu.a.u-tokyo.ac.jp宛」にメール添付で送る。

	レポートの最初に、「所属、学生番号、名前を忘れず」に。

	提出期限は、5月6日
