Problem 1

Find the global minimum of the function function

\[f(x,y)=x^2+y^2-\sin(3\pi x)-\frac12\cos(2\pi y)\]

  1. using numerical optimization with R
  2. implementing the Newton-Raphson algorithm yourself
  3. using simlated annealing

Problem 2

Consider the following data set:

the data is at the bottom.

The density is given by

\[f(x|\alpha,\lambda,\mu, \sigma)=(1-\alpha)\lambda e^{-\lambda x}/(1-e^{-\lambda T})+\alpha\phi(x, \mu, \sigma)\]

Find the maximum-likelihood estimators of \(\alpha, \lambda, \mu, \sigma\) using the EM algorithm. For this case we have T=1.

0.06 0.46 0.18 0.57 0.56 0.21 0.89 0.03 0.3 0.04 0.39 0.15 0.33 0.1 0.23 0.39 0.39 0.84 0.4 0.19 0.52 0.2 0.62 0.77 0.02 0.02 0.31 0.42 0.51 0.38 0.63 0.21 0.27 0.23 0.01 0.2 0.1 0 0.19 0.66 0.08 0.82 0.09 0.33 0.09 0.08 0.83 0.14 0.71 0.18 0.64 0.06 0.52 0.22 0.48 0.08 0.13 0.11 0.26 0.61 0.15 0.07 0.18 0.19 0.69 0.49 0.17 0.81 0.51 0.6 0.95 0.07 0.48 0.41 0.97 0.22 0.29 0.35 0.25 0.46 0.1 0.11 0.49 0.05 0.43 0.51 0.07 0.23 0.37 0.17 0.44 0.69 0.22 0.58 0.24 0.36 0.09 0.32 0.53 0.28 0.21 0.97 0.31 0.42 0.66 0.23 0.03 0.43 0.02 0.76 0.68 0.14 0.1 0.72 0.13 0.66 0.06 0.11 0.05 0.1 0.62 0.68 0.03 0.09 0.23 0.36 0.07 0.47 0.09 0.05 0.27 0.17 0.42 0.99 0.06 0.01 0.47 0.07 0.24 0.16 0.42 0.9 0.04 0.73 0.06 0.02 0.07 0.08 0.19 0.44 0 0.13 0.91 0.56 0.08 0.02 0.32 0.27 0.28 0.48 0.41 0.12 0.01 0.68 0.87 0.97 0.04 0.96 0.16 0.11 0.24 0.99 0.7 0.07 0.12 0.19 0.14 0.16 0.19 0.32 0.11 0.81 0.07 0.51 0.06 0.65 0.12 0.64 0.21 0.53 0.53 0.67 0.76 0.44 0.19 0.79 0.17 0.17 0.7 0.73 0.09 0.44 0.04 0.64 0.28 0.32 0.33 0.46 0.66 0.06 0.32 0.22 0.02 0.67 0.21 0.53 0.37 0.13 0.16 0.21 0.78 0.2 0.58 0.96 0.12 0.15 0.14 0.32 0.14 0.05 0.2 0.33 0.46 0.62 0.56 0.55 0.07 0.29 0.04 0.06 0.96 0.99 0.12 0.06 1 0.41 0.32 0.1 0.8 0.8 0.35 0.55 0.12 0.25 0.15 0.54 0.09 0.9 0.35 0.09 0.47 0.28 0.7 0.22 0.16 0.18 0.01 0.04 0.13 0.39 0.51 0.09 0.21 0.97 0.4 0.33 0.87 0.05 0.2 0.33 0.82 0.53 0.17 0.77 0.01 0.04 0.96 0.42 0.52 0.11 0.26 0.44 0.41 0.64 0.13 0.69 0.35 0.33 0.56 0.4 0.41 0.08 0.07 0.14 0.53 0.05 0.01 0.13 0.61 0.1 0.39 0.33 0.12 0.11 0.75 0.21 0.07 0.77 0.4 0.4 0.9 0.1 0.01 0.59 0.8 0.1 0.54 0.14 0.53 0.08 0.47 0.42 0.94 0.44 0.34 0.09 0.02 0.2 0.43 0.45 0.55 0.41 0.24 0.14 0.15 0.21 0.65 0.07 0.08 0.64 0.16 0.97 0.01 0.55 0.54 0.06 0.49 0.16 0.28 0.17 0.54 0.35 0.03 0.06 0.14 0.8 0.04 0.05 0.91 0.55 0.04 0 0.05 0.07 0.1 0.01 0.1 0.49 0.27 0.04 0.49 0.37 0.18 0.25 0.27 0.9 0.62 0.39 0.07 0.12 0.44 0.55 0.06 0.31 0.22 0.51 0.26 0.02 0.2 0 0.06 0.07 0.86 0.42 0.32 0.62 0.7 0.58 0.59 0.12 0.1 0.44 0.27 0.06 0.2 0.08 0.24 0.05 0.87 0.13 0.09 0.03 0.1 0.25 0.05 0.57 0.38 0.07 0.28 0.28 0.92 0.29 0.08 0.32 0.29 0.19 0.41 0.09 0.04 0.06 0.19 0.07 0.06 0.24 0.46 0.49 0.16 0.2 0.47 0.41 0.03 0.36 0.39 0.08 0.12 0.18 0.69 0.49 0.03 0.6 0.52 0.02 0.32 0.2 0.34 0.27 0.36 0.52 0.47 0.27 0.67 0.95 0.25 0.6 0.15 0.18 0.39 0.41 0.41 0.09 0.66 0.29 0.07 0.11 0.05 0.35 0.23 0.83 0.02 0.46 0.53 0.76 0.27 0.19 0.41 0.28 0.66 0.94 0.48 0.29 0.14 0.36 0.16 0.15 0.67 0.05 0.1 0.47 0.76 0.12 0.19 0.07 0.02 0.79 0.66 0.27 0.04 0.4 0.05 0.57 0.48 0.07 0.01 0.27 0.33 0.06 0.65 0.55 0.58 0.21 0.45 0.18 0.17 0.01 0.6 0.43 0.23 0.52 0.19 0.49 0.27 0.54 0.26 0.22 0.25 0.02 0.55 0.19 0.18 0.52 0.57 0.84 0.31 0.04 0.03 0.31 0.7 0.03 0.62 0.15 0.22 0.14 0.52 0.44 0.5 0.19 0.37 0.2 0.14 0.2 0.06 0.49 0.5 0.83 0.59 0.7 0.36 0.2 0.66 0.18 0.45 0.37 0.08 0.26 0.98 0.03 0.09 0.44 0.9 0.08 0.97 0.06 0.31 0.48 0.38 0.11 0.01 0.03 0.28 0.13 0.09 0.43 0.37 0.4 0.6 0.35 0.23 0.72 0.26 0.31 0.66 0.01 0.13 0.47 0.07 0.17 0.71 0.11 0.42 0.02 0.97 0.49 0.66 0.09 0.91 0.03 0.66 0.51 0.27 0.61 0.02 0.25 0.06 0.47 0.55 0.02 0.2 0.07 0 0.34 0.01 0.28 0.7 0.04 0.22 0.19 0.14 0.32 0.98 0.26 0.32 0.37 0.3 0.46 0.58 0.08 0.32 0.87 0.1 0.03 0.02 0.37 0.28 0.16 0.97 0.11 0.03 0.33 0.68 0.08 0.16 0.27 0.47 0.35 0.49 0.27 0.82 0.51 0.05 0.18 0.1 0.47 0.17 0.17 0.41 0.53 0.61 0.46 0.09 0.03 0.86 0.04 0.81 0.53 0.14 0.44 0.01 0.47 0.5 0.1 0.04 0.6 0.59 0.17 0.84 0.1 0.54 0.09 0.23 0.23 0.01 0.03 0.24 0.22 0.01 0.22 0.75 0.1 0.47 0.13 0.72 0.15 0.12 0.04 0.56 0.72 0.48 0.27 0.23 0.14 0.09 0.21 0.47 0.02 0.63 0.45 0.68 0.05 0.16 0.16 0.1 0.5 0.51 0.01 0.15 0.72 0.33 0.21 0.62 0.28 0.39 0.12 0.02 0.28 0.72 0.02 0.22 0.39 0.33 0.42 0.01 0.19 0.16 0.32 0.23 0.01 0.09 0.99 0.07 0.19 0.43 0.48 0.7 0.04 0.4 0.19 0.7 0.08 0.27 0.7 0.44 0.23 0.03 0.72 0.1 0.2 0.25 0.2 0.55 0.79 0.53 0.01 0 0.19 0.62 0.27 0.37 0 0.33 0.19 0 0.15 0.06 0.5 0.4 0.77 0.37 0.07 0.59 0.17 0.02 0.46 0.03 0.15 0.02 0.17 0 0.44 0.37 0.23 0.79 0.12 0.25 0.23 0.93 0.11 0.11 0.34 0.46 0.63 0.22 0.2 0.57 0.57 0.88 0.11 0.1 0.3 0.82 0.64 0.11 0.39 0.58 0.03 0.09 0.29 0.36 0.43 0.35 0.31 0.64 0.56 0.61 0.61 0.62 0.65 0.57 0.59 0.61 0.59 0.67 0.61 0.58 0.57 0.66 0.64 0.61 0.6 0.6 0.57 0.58 0.56 0.61 0.61 0.59 0.59 0.57 0.65 0.56 0.6 0.62 0.65 0.53 0.62 0.61 0.55 0.59 0.56 0.61 0.59 0.63 0.56 0.61 0.61 0.57 0.67 0.64 0.59 0.59 0.62 0.56 0.58 0.58 0.6 0.61 0.63 0.62 0.61 0.63 0.62 0.63 0.58 0.6 0.61 0.62 0.56 0.61 0.58 0.61 0.61 0.54 0.59 0.55 0.59 0.66 0.61 0.58 0.59 0.61 0.62 0.63 0.61 0.63 0.56 0.62 0.63 0.57 0.6 0.62 0.58 0.58 0.58 0.63 0.57 0.61 0.63 0.56 0.61 0.61 0.59 0.64 0.58 0.6 0.6 0.61 0.59 0.61 0.59 0.61 0.59 0.65 0.62 0.57 0.62 0.57 0.62 0.6 0.63 0.59 0.61 0.6 0.65 0.63 0.59 0.59 0.62 0.58 0.64 0.57 0.64 0.6 0.6 0.57 0.58 0.58 0.63 0.63 0.6 0.62 0.59 0.67 0.6 0.58 0.61 0.58 0.59 0.52 0.55 0.6 0.62