Ich würde sagen:

(el) Pudo haber sido mejor.

oder

(el) Podría haber sido mejor.

>Me da dificultades de comprender cuándo [xusox] se usa el subjuntivo en forma pasada y cuándo tengo que utilizar el condicional.

Kiwi, ich würde dir fürs erste eine einfache (Grund-)Regel empfehlen:

In Hauptsätzen benutzt du Condicional, in Nebensätzen aber Subjuntivo.

Allerdings hat diese Regel mehrere Ausnahmen, insbesondere wenn es sich um modale Verben deber, poder, tener que + inf.

Hier mögliche Übersetzungen deines Satzes "er haette besser sein koennen":

Pudo haber sido mejor.
Podía haber sido mejor.
Podría haber sido mejor.
Pudiera haber sido mejor.
Hubiera podido ser mejor.