Ubuntu - Apache You don't have permission to access

O problema ocorre pois não foi dado permissão de acesso aos seus arquivos.

Tudo pode se resolver com o seguinte comando:

sudo chown www-data.www-data -R /var/www/

ou

sudo find /var/www -type d -exec chmod u=rwx,g=rx,o=rx {} \;
sudo find /var/www -type f -exec chmod u=rw,g=r,o=r {} \;

O primeiro comando irá liberá acesso ao web server para escrita, isso pode ser perigoso caso você esteja liberando acesso a sua máquina. O segundo é mais restrito.