En 1957, de manera casual, grabó un disco que pasó desapercibido por el mercado, así que sobrevivía como vendedor ambulante. Incluso viajó a Argentina, pero no para cantar, sino para negociar con sábanas. Ocasionalmente actuaba en locales de la costa catalana. Poco a poco, su nombre se fue conociendo en Barcelona. Así, grabó un par de discos que sonaron bastante en las emisoras de la zona. Al poco se casó con Fuensanta, Santa, una gitana de la familia a la que años más tarde dedicaría una de sus más populares canciones: «Mi Santa». A mediados de los 60 dio el salto a Madrid, cuando fue contratado por El Duende, un tablao flamenco perteneciente a Pastora Imperio y Gitanillo de Triana, y ahí se inició su escalada. Algunas de sus interpretaciones, como «El muerto vivo» del colombiano Guillermo González Arenas, empezaron a tener mucho éxito entre gente de diversa extracción social. Y en este momento ocurrió un fenómeno muy significativo que Manuel Román describió así en su libro Memoria de la copla:
- En las discotecas de moda, donde se programa música anglosajona y de los conjuntos españoles de la época, como Los Bravos y otros del género pop, hay de pronto un cambio brusco, pasada la medianoche, que el pinchadiscos de turno aprovecha para que suenen las rumbas de Peret.