Sus primeros trabajos los publicó en la Gazeta Mercantil, en el año 1832 .-.Diario que era el órgano oficial de la tiranía, que comenzó a publicarse en 1828 (Año de la muerte de Dorrego) , y se prolongó hasta después de Caseros. Sus páginas eran el fiel reflejo del pensamiento federal.
Su primera obra fue una pequeña “Oda a Rosas”, que mostraba a este como un encarnizado perseguidor de unitarios. Era un pasquín pegado en esquinas de la ciudad, encabezado por una espiga de maíz ―llamada en Argentina mazorca― que representaba a Rosas, usando una analogía respecto al cabello rubio del gobernador y su color de tez encarnado.
El cartel era una amenaza velada a los opositores, y la figura fue tomada como símbolo por los fanáticos rosistas de la Sociedad Popular Restauradora, que comenzaron a usar orgullosos el nombre de La Mazorca.
En 1837, se unió a los jóvenes literatos de la Asociación de Mayo, por lo que pronto fue investigado por la misma Mazorca a la que antes alabara como posible aliado de los enemigos franceses.
Por otro lado, fue procesado por estafa y falsificación de documentos. Por esa razón huyó a Europa en 1839, después del descubrimiento de la conspiración de Maza. Visitó Londres y algunas ciudades de Estados Unidos.
Regresó a fines de ese año a Montevideo, donde se dedicó a atacar en la prensa al gobierno de Rosas por medio de poesías y alegatos; entre los muchos periódicos en los que publicó se destacaron sus colaboraciones en el diario El Nacional, desde el cual acusó a Rosas de toda clase de crímenes e inmoralidades. Acompañó a Florencio Varela a convencer al general Juan Lavalle de unirse a los franceses en la guerra contra su propio país.
En 1841, el gobernador Rosas recibió un paquete a nombre de una sociedad de anticuarios, con una nota que decía que era parte de una colección de medallas.
En realidad contenía la que Rosas llamó la máquina infernal, una corona de doce caños de pistola, cargados cada uno con una bala, y un mecanismo para que dispararan automáticamente ―en todas direcciones― al abrir la caja.
La caja no fue abierta por el gobernador sino por su hija Manuelita Rosas, que salvó su vida de milagro, ya que una falla en el gatillo impidió que disparara. Nunca se supo quién la había enviado, pero entre el más insistentemente acusado en la prensa porteña fue José Rivera.
Un diplomático francés le pidió que publicara un libro que incluyera una lista, lo más larga posible, de las víctimas de Rosas. Para ello ofreció pagarle un penique por cada muerto.
El resultado fue su obra maestra, conocida como Tablas de Sangre. Para llegar a completar la lista que necesitaba recurrió a todos los muertos conocidos, tanto los asesinados por la Mazorca, como por orden directa de Rosas.
Pero también incluyó personas fallecidas de muerte natural, individuos que habían muerto mucho antes de la llegada de Rosas al poder, y hombres que muchos años más tarde aún vivían.
Agregó también nombres imaginarios, muertos identificados como NN de los que nadie supo cómo habían muerto, y también a Facundo Quiroga y sus acompañantes ―amparándose en que su asesino había acusado a Rosas el día de su ejecución―. También lo acusó de la muerte de Alejandro Heredia, Benito Villafañe y de otros personajes públicos.
De esta manera, José Rivera logró completar una lista de 480 muertos; por eso cobró dos libras, es decir, 480 peniques.
Con la esperanza de cobrar algo más, lo acusó también de ser el responsable de la muerte de 22 560 muertos durante las guerras civiles argentinas desde 1829 en adelante.
Esta lista fue utilizada durante décadas para acusar a Rosas de crímenes enormes. Esta lista, sería durante casi un siglo una de los principales sustentos en la condena histórica de Rosas.
Pero también acusaba a Rosas de muchas otras inmoralidades: defraudación fiscal, malversación de fondos, insultar a su madre en el lecho de muerte, abandonar a su esposa en sus últimos días, tener amantes de las familias más respetables.
Como curiosidad, José Rivera ignoraba el que fue tal vez el acto más fácilmente atacable de la vida de Rosas desde el punto de vista moral de su época: Rosas tenía en su casa una criada pobre, Eugenia Castro, a la que había hecho su amante y con la que había tenido varios hijos.
En sus últimos años, Rivera escribió una colección de poemas llamado Melodías hebraicas, una colección de citas bíblicas, con cierta vuelo poética, de estilo romántico.
El principal teatro de la ciudad argentina de Córdoba, aunque llamado actualmente Teatro del Libertador General San Martín, inicialmente y por mucho tiempo llevó oficialmente el nombre de teatro Rivera Indarte.
.