Em primeiro lugar, é preferível reformular a pergunta: «Quais são os substantivos correspondentes a fino, pequeno e novo?» Finas e pequenos são formas, respectivamente, de fino e pequeno, que são as chamadas formas de citação ou de entrada num dicionário.

Quanto aos substantivos relativos a:

fino

Poderia dizer-se que finura e fineza são os substantivos correspondentes, não fora o facto de lhes ser dado um sentido psicológico («finura no trato», «ter a fineza» = «delicadeza»); por isso, é melhor considerar as palavras delgadeza, estreiteza, esguiez. Melhor ainda, quando falamos da escala da dimensão em que fino se opõe a grosso, é usar espessura ou grossura em perífrases como «uma parede de espessura mínima» ou «um fio de grossura mínima».

pequeno

O substantivo é pequenez; mas se a intenção é referir a escala de que pequeno é um dos valores (pequeno, médio, grande), use tamanho («pequeno tamanho»).

novo

Temo novidade (referido a coisas e factos) e juventude (a respeito de pessoas).