Bueno al final no ha sido tan dificil! Gracias a AlexSEO, aquí teneis su artículo en el que os lo cuenta paso a paso, yo he elegido la 2ª forma:

Cuando tenemos un hosting (o en la mayoría de ellos), tenemos una carpeta para cada dominio (ejemplo: carpeta alexseo.com) o tenemos una carpeta llamada public_html. Esta forma de actualizar consiste en lo siguiente:

• Creamos una nueva carpeta en nuestro hosting con cualquier nombre (si que actualización wp 2.3).
• Subimos todos los archivos de WordPress 2.3 a esa carpeta.
• Luego copiamos el wp-config.php, el wp-content y las imágenes de nuestro blog a este nuevo directorio.
• Ahora, desactivamos todos los plugins y activamos el theme por defecto.
• Hacemos respaldo de la base de datos.
• Luego, la carpeta que es nuestro directorio donde está nuestro blog, le cambiamos el nombre (ejemplo: backup 2.2), y la carpeta donde está WordPress 2.3, le ponemos el nombre que tenía el directorio de nuestro blog.
• Ahora vamos a tublog.com/wp-admin/upgrade.php y listo!
• Luego de eso, ya puedes ir activando tus plugins y tu tema.
• Puedes importar las categorías a etiquetas o si ya tienes algún plugin de etiquetas, puedes importar esas a las etiquetas nativas de WordPress.
• Opcional: Sube la traducción de WordPress 2.3 en español!
• Y a probar WordPress 2.3!