Weno este es un "pequeño" tuto imagen por imagen para instalar Java SE Development Kit (JDK) includes the Java Runtime Environment (JRE) version: JDK 6u2 en Ubuntu.
Esta versión es para desarrolladores.
lo primero es descargarse el .bin que se encuentra en:
http://java.sun.com/javase/downloads/index.jsp
Aceptamos la licencia y
clickeamos en:
Linux self-extracting file (build 05) jdk-6u2-linux-i586.bin 55.66 MB
que es la versión que nos interesa.

Entramos en la terminal y nos vamos a la carpeta donde descargamos el archivo que en mi caso esta en el escritorio.

con:
$ chmod +x $ chmod +x jdk-6u2-linux-i586.bin
Le damos permisos de ejecución al archivo.

con:
$ sudo ./jdk-6u2-linux-i586.bin
Instalamos.
Luego LEEN EL CONTRATO xDDDDDDD.
y presionan space un par de veces.
Do you agree to the above license terms? [yes or no]
yes aceptan la licencia.
y se crea una carpeta llamada /jdk1.6.0_02

esta carpeta la deberíamos poner en un mejor lugar:
$ sudo mv jdk1.6.0_02 /usr/lib/jvm
Seteamos el nuevo Java como una de las "alternativas de Java"
(todo en la misma linea):
$ sudo update-alternatives --install "/usr/bin/java" "java" "/usr/lib/jvm/jdk1.6.0_02/bin/java" 1 Ahora, seteamos la "nueva alternativa" como la real de Java:
$ sudo update-alternatives --set java /usr/lib/jvm/jdk1.6.0_02/bin/java
ahora
$ java -version
Para comprobar si tenemos bien la versión 1.6.0_02

Ahora falta configurar el JAVAC
$ sudo update-alternatives --install "/usr/bin/javac" "javac" "/usr/lib/jvm/jdk1.6.0_02/bin/javac" 1
$ sudo update-alternatives --set javac /usr/lib/jvm/jdk1.6.0_02/bin/javac

y por ultimo comprobamos el
$ javac -version
y listo ahy tienen el JDK 1.6.0_02
.
mas info en:
guia-ubuntu