Tienes que sacar el maximo ID y luego coger los datos de esa noticia, ahora coges los datos de TODAS las noticias y el ID máximo.
 
Una manera de hacerlo, aunque no creo que sea la más eficiente, es esta    
Código SQL:
Ver originalSELECT titulo,noticia,categoria 
FROM noticias 
WHERE ID IN (
SELECT MAX(id)
FROM noticias
GROUP BY categoria
)
ORDER BY categoria;