lib/as3/code.c

   1 /* code.c
   2
   3    Routines for handling Flash2 AVM2 ABC Actionscript
   4
   5    Extension module for the rfxswf library.
   6    Part of the swftools package.
   7
   8    Copyright (c) 2008 Matthias Kramm <kramm@quiss.org>
   9
  10    This program is free software; you can redistribute it and/or modify
  11    it under the terms of the GNU General Public License as published by
  12    the Free Software Foundation; either version 2 of the License, or
  13    (at your option) any later version.
  14
  15    This program is distributed in the hope that it will be useful,
  16    but WITHOUT ANY WARRANTY; without even the implied warranty of
  17    MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
  18    GNU General Public License for more details.
  19
  20    You should have received a copy of the GNU General Public License
  21    along with this program; if not, write to the Free Software
  22    Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307  USA */
  23
  24 #include <assert.h>
  25 #include "code.h"
  26 #include "pool.h"
  27
  28 #define OP_REGISTER 1
  29 #define OP_STACK_ARGS 2
  30 #define OP_STACK_NS 4
  31 #define OP_SET_DXNS 8
  32 #define OP_RETURN 16
  33 #define OP_THROW 32
  34 #define OP_BRANCH 64
  35 #define OP_JUMP 128
  36 #define OP_LABEL 256
  37 #define OP_LOOKUPSWITCH 512
  38 #define OP_NEED_ACTIVATION 1024
  39 #define OP_STACK_ARGS2 2048
  40
  41 /* 2 = u30 index into multiname
  42    m = u30 index into method
  43    n = u30 number of params
  44    i = u30 index into method info
  45    b = byte
  46    c = u30 index into class
  47    s = string (u30 index into strings)
  48    S = switch
  49    u = u30
  50    r = register
  51 */
  52
  53 opcode_t opcodes[]={
  54 {0xa0, "add", "",              -2, 1, 0, 0},
  55 {0xc5, "add_i", "",            -2, 1, 0, 0},
  56 {0x86, "astype", "2",          -1, 1, 0, 0},
  57 {0x87, "astypelate", "",       -2, 1, 0, 0},
  58 {0xA8, "bitand", "",           -2, 1, 0, 0},
  59 {0x97, "bitnot", "",           -1, 1, 0, 0},
  60 {0xa9, "bitor", "",            -2, 1, 0, 0},
  61 {0xaa, "bitxor", "",           -2, 1, 0, 0},
  62 {0x41, "call", "n",            -2, 1, 0, OP_STACK_ARGS},
  63 {0x43, "callmethod", "mn",     -1, 1, 0, OP_STACK_ARGS},
  64 {0x4c, "callproplex", "2n",    -1, 1, 0, OP_STACK_ARGS|OP_STACK_NS},
  65 {0x46, "callproperty", "2n",   -1, 1, 0, OP_STACK_ARGS|OP_STACK_NS},
  66 {0x4f, "callpropvoid", "2n",   -1, 0, 0, OP_STACK_ARGS|OP_STACK_NS},
  67 {0x44, "callstatic", "in",     -1, 1, 0, OP_STACK_ARGS},
  68 {0x45, "callsuper", "2n",      -1, 1, 0, OP_STACK_ARGS|OP_STACK_NS},
  69 {0x4e, "callsupervoid", "2n",  -1, 0, 0, OP_STACK_ARGS|OP_STACK_NS},
  70 {0x78, "checkfilter", "",      -1, 1, 0, 0},
  71 {0x80, "coerce", "2",          -1, 1, 0, 0},
  72 {0x82, "coerce_a", "",         -1, 1, 0, 0},
  73 {0x85, "coerce_s", "",         -1, 1, 0, 0},
  74 {0x42, "construct", "n",       -1, 1, 0, OP_STACK_ARGS},
  75 {0x4a, "constructprop", "2n",  -1, 1, 0, OP_STACK_ARGS|OP_STACK_NS},
  76 {0x49, "constructsuper", "n",  -1, 0, 0, OP_STACK_ARGS},
  77 {0x76, "convert_b", "",        -1, 1, 0, 0},
  78 {0x73, "convert_i", "",        -1, 1, 0, 0},
  79 {0x75, "convert_d", "",        -1, 1, 0, 0},
  80 {0x77, "convert_o", "",        -1, 1, 0, 0},
  81 {0x74, "convert_u", "",        -1, 1, 0, 0},
  82 {0x70, "convert_s", "",        -1, 1, 0, 0},
  83 {0xef, "debug", "D",            0, 0, 0, 0},
  84 {0xf1, "debugfile", "s",        0, 0, 0, 0},
  85 {0xf0, "debugline", "u",        0, 0, 0, 0},
  86 {0x94, "declocal", "r",         0, 0, 0, OP_REGISTER},
  87 {0xc3, "declocal_i", "r",       0, 0, 0, OP_REGISTER},
  88 {0x93, "decrement", "",        -1, 1, 0, 0},
  89 {0xc1, "decrement_i", "",      -1, 1, 0, 0},
  90 {0x6a, "deleteproperty", "2",  -1, 1, 0, OP_STACK_NS},
  91 {0xa3, "divide", "",           -2, 1, 0, 0},
  92 {0x2a, "dup", "",              -1, 2, 0, 0},
  93 {0x06, "dxns", "s",             0, 0, 0, OP_SET_DXNS},
  94 {0x07, "dxnslate", "",         -1, 0, 0, OP_SET_DXNS},
  95 {0xab, "equals", "",           -2, 1, 0, 0},
  96 {0x72, "esc_xattr", "",        -1, 1, 0, 0},
  97 {0x71, "esc_xelem", "",        -1, 1, 0, 0},
  98 {0x5e, "findproperty", "2",     0, 1, 0, OP_STACK_NS},
  99 {0x5d, "findpropstrict", "2",   0, 1, 0, OP_STACK_NS},
 100 {0x59, "getdescendants", "2",  -1, 1, 0, OP_STACK_NS},
 101 {0x64, "getglobalscope", "",    0, 1, 0, 0},
 102 {0x6e, "getglobalslot", "u",    0, 1, 0, 0},
 103 {0x60, "getlex", "2",           0, 1, 0, 0}, //multiname may not be runtime
 104 {0x62, "getlocal", "r",         0, 1, 0, OP_REGISTER},
 105 {0xd0, "getlocal_0", "",        0, 1, 0, OP_REGISTER},
 106 {0xd1, "getlocal_1", "",        0, 1, 0, OP_REGISTER},
 107 {0xd2, "getlocal_2", "",        0, 1, 0, OP_REGISTER},
 108 {0xd3, "getlocal_3", "",        0, 1, 0, OP_REGISTER},
 109 {0x66, "getproperty", "2",     -1, 1, 0, OP_STACK_NS},
 110 {0x65, "getscopeobject", "u",   0, 1, 0, 0}, // u = index into scope stack
 111 {0x6c, "getslot", "u",         -1, 1, 0, 0},
 112 {0x04, "getsuper", "2",        -1, 1, 0, OP_STACK_NS},
 113 {0xaf, "greaterthan", "",      -2, 1, 0, 0},
 114 {0xb0, "greaterequals", "",    -2, 1, 0, 0},
 115 {0x1f, "hasnext", "",          -2, 1, 0, 0},
 116 {0x32, "hasnext2", "rr",        0, 1, 0, OP_REGISTER},
 117 {0x13, "ifeq", "j",            -2, 0, 0, OP_BRANCH},
 118 {0x12, "iffalse", "j",         -1, 0, 0, OP_BRANCH},
 119 {0x18, "ifge", "j",            -2, 0, 0, OP_BRANCH},
 120 {0x17, "ifgt", "j",            -2, 0, 0, OP_BRANCH},
 121 {0x16, "ifle", "j",            -2, 0, 0, OP_BRANCH},
 122 {0x15, "iflt", "j",            -2, 0, 0, OP_BRANCH},
 123 {0x0f, "ifnge", "j",           -2, 0, 0, OP_BRANCH},
 124 {0x0e, "ifngt", "j",           -2, 0, 0, OP_BRANCH},
 125 {0x0d, "ifnle", "j",           -2, 0, 0, OP_BRANCH},
 126 {0x0c, "ifnlt", "j",           -2, 0, 0, OP_BRANCH},
 127 {0x14, "ifne", "j",            -2, 0, 0, OP_BRANCH},
 128 {0x19, "ifstricteq", "j",      -2, 0, 0, OP_BRANCH},
 129 {0x1a, "ifstrictne", "j",      -2, 0, 0, OP_BRANCH},
 130 {0x11, "iftrue", "j",          -1, 0, 0, OP_BRANCH},
 131 {0xb4, "in", "",               -2, 1, 0, 0},
 132 {0x92, "inclocal", "r",         0, 0, 0, OP_REGISTER},
 133 {0xc2, "inclocal_i", "r",       0, 0, 0, OP_REGISTER},
 134 {0x91, "increment", "",        -1, 1, 0, 0},
 135 {0xc0, "increment_i", "",      -1, 1, 0, 0},
 136 {0x68, "initproperty", "2",    -2, 0, 0, OP_STACK_NS},
 137 {0xb1, "instanceof", "",       -2, 1, 0, 0},
 138 {0xb2, "istype", "2",          -1, 1, 0, 0}, // may not be a runtime multiname
 139 {0xb3, "istypelate", "",       -2, 1, 0, 0},
 140 {0x10, "jump", "j",             0, 0, 0, OP_JUMP},
 141 {0x08, "kill", "r",             0, 0, 0, OP_REGISTER},
 142 {0x09, "label", "",             0, 0, 0, OP_LABEL},
 143 {0xae, "lessequals", "",       -2, 1, 0, 0},
 144 {0xad, "lessthan", "",         -2, 1, 0, 0},
 145 {0x1b, "lookupswitch", "S",    -1, 0, 0, OP_LOOKUPSWITCH},
 146 {0xa5, "lshift", "",           -2, 1, 0, 0},
 147 {0xa4, "modulo", "",           -2, 1, 0, 0},
 148 {0xa2, "multiply", "",         -2, 1, 0, 0},
 149 {0xc7, "multiply_i", "",       -2, 1, 0, 0},
 150 {0x90, "negate", "",           -1, 1, 0, 0},
 151 {0xc4, "negate_i", "",         -1, 1, 0, 0},
 152 {0x57, "newactivation", "",     0, 1, 0, OP_NEED_ACTIVATION},
 153 {0x56, "newarray", "n",         0, 1, 0, OP_STACK_ARGS},
 154 {0x5a, "newcatch", "u",         0, 1, 0, 0}, //u = index into exception_info
 155 {0x58, "newclass", "c",        -1, 1, 0, 0}, //c = index into class_info
 156 {0x40, "newfunction", "m",      0, 1, 0, 0}, //i = index into method_info
 157 {0x55, "newobject", "n",        0, 1, 0, OP_STACK_ARGS2},
 158 {0x1e, "nextname", "",         -2, 1, 0, 0},
 159 {0x23, "nextvalue", "",        -2, 1, 0, 0},
 160 {0x02, "nop", "",               0, 0, 0, 0},
 161 {0x96, "not", "",              -1, 1, 0 ,0},
 162 {0x29, "pop", "",              -1, 0, 0, 0},
 163 {0x1d, "popscope", "",          0, 0,-1, 0},
 164 {0x24, "pushbyte", "b",         0, 1, 0, 0},
 165 {0x2f, "pushdouble", "f",       0, 1, 0, 0}, //index into floats
 166 {0x27, "pushfalse", "",         0, 1, 0, 0},
 167 {0x2d, "pushint", "I",          0, 1, 0, 0}, //index into ints
 168 {0x31, "pushnamespace", "u",    0, 1, 0, 0}, //index into namespace TODO
 169 {0x28, "pushnan", "",           0, 1, 0, 0},
 170 {0x20, "pushnull", "",          0, 1, 0, 0},
 171 {0x30, "pushscope", "",        -1, 0, 1, 0},
 172 {0x25, "pushshort", "u",        0, 1, 0, 0},
 173 {0x2c, "pushstring", "s",       0, 1, 0, 0},
 174 {0x26, "pushtrue", "",          0, 1, 0, 0},
 175 {0x2e, "pushuint", "U",         0, 1, 0, 0}, //index into uints
 176 {0x21, "pushundefined", "",     0, 1, 0, 0},
 177 {0x1c, "pushwith", "",         -1, 0, 1, 0},
 178 {0x48, "returnvalue", "",      -1, 0, 0, OP_RETURN},
 179 {0x47, "returnvoid", "",        0, 0, 0, OP_RETURN},
 180 {0xa6, "rshift", "",           -2, 1, 0, 0},
 181 {0x63, "setlocal", "r",        -1, 0, 0, OP_REGISTER},
 182 {0xd4, "setlocal_0", "",       -1, 0, 0, OP_REGISTER},
 183 {0xd5, "setlocal_1", "",       -1, 0, 0, OP_REGISTER},
 184 {0xd6, "setlocal_2", "",       -1, 0, 0, OP_REGISTER},
 185 {0xd7, "setlocal_3", "",       -1, 0, 0, OP_REGISTER},
 186 {0x6f, "setglobalslot", "u",   -1, 0, 0, 0},
 187 {0x61, "setproperty", "2",     -2, 0, 0, OP_STACK_NS},
 188 {0x6d, "setslot", "u",         -2, 0, 0, 0},
 189 {0x05, "setsuper", "2",        -2, 0, 0, OP_STACK_NS},
 190 {0xac, "strictequals", "",     -2, 1, 0, 0},
 191 {0xa1, "subtract", "",         -2, 1, 0, 0},
 192 {0xc6, "subtract_i", "",       -2, 1, 0, 0},
 193 {0x2b, "swap", "",             -2, 2, 0, 0},
 194 {0x03, "throw", "",            -1, 0, 0, OP_THROW},
 195 {0x95, "typeof", "",           -1, 1, 0, 0},
 196 {0xa7, "urshift", "",          -2, 1, 0, 0},
 197
 198 /* opcodes not documented, but seen in the wild */
 199 //0x53: seen in builtin.abc
 200 {0x53, "applytype", "n",       -1, 1, 0, OP_STACK_ARGS},
 201
 202 /* dummy instruction. Warning: this one is not actually supported by flash */
 203 {0xfe, "__continue__", "s",           0, 0, 0, OP_RETURN},
 204 {0xff, "__break__", "s",            0, 0, 0, OP_RETURN},
 205 };
 206
 207 static U8 op2index[256] = {254};
 208
 209 opcode_t* opcode_get(U8 op)
 210 {
 211     int t;
 212     if(op2index[0]==254) {
 213         memset(op2index, 255, sizeof(op2index));
 214         for(t=0;t<sizeof(opcodes)/sizeof(opcodes[0]);t++) {
 215             op2index[opcodes[t].opcode] = t;
 216         }
 217     }
 218     if(op2index[op]!=255)
 219         return &opcodes[op2index[op]];
 220     return 0;
 221 }
 222
 223 static code_t*pos2code(code_t**bytepos, code_t*c, int pos, int len)
 224 {
 225     if(c) {
 226         pos+=c->pos;
 227     }
 228     if(pos < 0 ||
 229        pos > len ||
 230       (pos!=len && !bytepos[pos])) {
 231         /* flex likes to generate these. yuck. */
 232         if(c) {
 233             opcode_t*op = opcode_get(c->opcode);
 234             fprintf(stderr, "Warning: Invalid jump instruction \"%s\" from %d to %d (%d)\n", op->name, c->pos, pos, len);
 235         } else {
 236             fprintf(stderr, "Warning: Invalid jump to %d (%d)\n", pos, len);
 237         }
 238         return 0;
 239     } else {
 240         if(pos==len) {
 241             //opcode_t*op = opcode_get(c->opcode);
 242             //fprintf(stderr, "Warning: jump beyond end of code in instruction %s at position %d\n", op->name, c->pos);
 243             return 0;
 244         } else {
 245             return bytepos[pos];
 246         }
 247     }
 248 }
 249 code_t* code_atposition(codelookup_t*l, int pos)
 250 {
 251     return pos2code(l->bytepos, 0, pos, l->len);
 252 }
 253
 254 void lookupswitch_print(lookupswitch_t*l)
 255 {
 256     printf("default: %08x\n", l->def);
 257     code_list_t*t = l->targets;
 258     while(t) {
 259         printf("target: %08x\n", t->code);
 260         t = t->next;
 261     }
 262 }
 263
 264 code_t*code_parse(TAG*tag, int len, abc_file_t*file, pool_t*pool, codelookup_t**codelookup)
 265 {
 266     code_t*head=0;
 267     code_t*code=0;
 268     int start=tag->pos;
 269     int end=tag->pos+len;
 270     //printf("-->\n");fflush(stdout);
 271
 272     code_t**bytepos = rfx_calloc(sizeof(code_t*)*len);
 273
 274     while(tag->pos<end) {
 275         int codepos = tag->pos-start;
 276         U8 opcode = swf_GetU8(tag);
 277         opcode_t*op = opcode_get(opcode);
 278         if(!op) {
 279             fprintf(stderr, "Can't parse opcode %02x\n", opcode);
 280             continue;
 281         }
 282         //printf("%s\n", op->name);fflush(stdout);
 283         NEW(code_t,c);
 284         c->pos = codepos;
 285
 286         bytepos[codepos] = c;
 287
 288         if(!head) {
 289             head = code = c;
 290         } else {
 291             code->next = c;
 292             code = c;
 293         }
 294
 295         c->opcode = opcode;
 296
 297         char*p = op->params;
 298         int pos = 0;
 299         while(*p) {
 300             void*data = 0;
 301             if(*p == 'n') { // number
 302                 data = (void*)(ptroff_t)swf_GetU30(tag);
 303             } else if(*p == '2') { //multiname
 304                 data = multiname_clone(pool_lookup_multiname(pool, swf_GetU30(tag)));
 305             } else if(*p == 'U') { //uint
 306                 data = (void*)(ptroff_t)pool_lookup_uint(pool, swf_GetU30(tag));
 307             } else if(*p == 'I') { //int
 308                 data = (void*)(ptroff_t)pool_lookup_int(pool, swf_GetU30(tag));
 309             } else if(*p == 'f') { //int
 310                 double*fp = malloc(sizeof(double));
 311                 *fp = pool_lookup_float(pool, swf_GetU30(tag));
 312                 data = fp;
 313             } else if(*p == 'm') { //method
 314                 data = array_getvalue(file->methods, swf_GetU30(tag));
 315             } else if(*p == 'c') { //classinfo
 316                 data = array_getvalue(file->classes, swf_GetU30(tag));
 317             } else if(*p == 'i') {
 318                 data = array_getvalue(file->method_bodies, swf_GetU30(tag));
 319             } else if(*p == 'u') { // generic integer
 320                 data = (void*)(ptroff_t)swf_GetU30(tag);
 321             } else if(*p == 'r') { // local register
 322                 data = (void*)(ptroff_t)swf_GetU30(tag);
 323             } else if(*p == 'b') { // byte
 324                 data = (void*)(ptroff_t)swf_GetU8(tag);
 325             } else if(*p == 'j') { // jump
 326                 int j = swf_GetS24(tag);
 327                 data = (void*)(ptroff_t)j;
 328             } else if(*p == 's') { // string
 329                 string_t s = pool_lookup_string2(pool, swf_GetU30(tag));
 330                 data = string_dup3(&s);
 331             } else if(*p == 'D') { // debug
 332                 /*type, usually 1*/
 333                 U8 type = swf_GetU8(tag);
 334                 if(type!=1)
 335                     fprintf(stderr, "Unknown debug type: %02x\n", type);
 336                 /*register name*/
 337                 code->data[0] = strdup((char*)pool_lookup_string(pool, swf_GetU30(tag)));
 338                 /*register index*/
 339                 code->data[1] = (void*)(ptroff_t)swf_GetU8(tag);
 340                 /*unused*/
 341                 swf_GetU30(tag);
 342             } else if(*p == 'S') { // switch statement
 343                 lookupswitch_t*l = malloc(sizeof(lookupswitch_t));
 344                 l->def = (code_t*)(ptroff_t)swf_GetS24(tag);
 345                 l->targets = list_new();
 346                 int num = swf_GetU30(tag)+1;
 347                 int t;
 348                 for(t=0;t<num;t++)
 349                     list_append(l->targets, (code_t*)(ptroff_t)swf_GetS24(tag));
 350                 data = l;
 351             } else {
 352                 printf("Can't parse opcode param type \"%c\" (for op %02x %s).\n", *p, code->opcode, op->name);
 353                 return 0;
 354             }
 355             if(data)
 356                 code->data[pos++] = data;
 357             p++;
 358         }
 359     }
 360
 361 //#define DEBUG_BYTES
 362 #ifdef DEBUG_BYTES
 363     int t;
 364     for(t=0;t<len;t++) {
 365         code_t*c = bytepos[t];
 366         if(c) {
 367             opcode_t*op = opcode_get(c->opcode);
 368             if(op->flags & (OP_JUMP|OP_BRANCH)) {
 369                 printf("%5d) %02x %s %d\n", t, tag->data[start+t], op->name, c->data[0]);
 370             } else {
 371                 printf("%5d) %02x %s\n", t, tag->data[start+t], op->name);
 372             }
 373         } else {
 374             printf("%5d) %02x\n", t, tag->data[start+t]);
 375         }
 376     }
 377     //printf("%5d) %02x\n", t, tag->data[start+t]);
 378 #endif
 379
 380     code_t*c = head;
 381     while(c) {
 382         opcode_t*op = opcode_get(c->opcode);
 383         if(op->flags & (OP_JUMP|OP_BRANCH)) {
 384             int j = ((int)(ptroff_t)c->data[0]);
 385             c->branch = pos2code(bytepos,c,j+4,len);
 386         } else if(op->flags & (OP_LOOKUPSWITCH)) {
 387             lookupswitch_t*l = (lookupswitch_t*)c->data[0];
 388             int offset = 0;
 389             l->def = pos2code(bytepos,c,(ptroff_t)l->def+offset,len);
 390             code_list_t*t=l->targets;
 391             while(t) {
 392                 t->code = pos2code(bytepos,c,(ptroff_t)t->code+offset,len);
 393                 t = t->next;
 394             }
 395         }
 396         c = c->next;
 397     }
 398
 399     if(codelookup) {
 400         (*codelookup) = malloc(sizeof(codelookup_t));
 401         (*codelookup)->bytepos = bytepos;
 402         (*codelookup)->len = len;
 403     } else {
 404         free(bytepos);
 405     }
 406
 407     return head;
 408 }
 409
 410 void codelookup_free(codelookup_t*codelookup)
 411 {
 412     free(codelookup->bytepos);codelookup->bytepos=0;
 413     free(codelookup);
 414 }
 415
 416 code_t*code_find_start(code_t*c)
 417 {
 418     while(c && c->prev)
 419         c=c->prev;
 420     return c;
 421 }
 422
 423 void code_free(code_t*c)
 424 {
 425     c = code_find_start(c);
 426     while(c) {
 427         code_t*next = c->next;
 428         opcode_t*op = opcode_get(c->opcode);
 429         char*p = op?op->params:"";
 430         int pos=0;
 431         while(*p) {
 432             void*data = c->data[pos];
 433             if(*p == '2') { //multiname
 434                 multiname_destroy(data);
 435             } else if(strchr("sDf", *p)) {
 436                 free(data);
 437             } else if(strchr("S", *p)) {
 438                 lookupswitch_t*l = (lookupswitch_t*)data;
 439                 list_free(l->targets);l->targets=0;
 440                 free(l);
 441             }
 442             c->data[pos]=0;
 443             p++;pos++;
 444         }
 445         memset(c, 0, sizeof(c));
 446         free(c);
 447         c = next;
 448     }
 449 }
 450
 451 static int opcode_write(TAG*tag, code_t*c, pool_t*pool, abc_file_t*file, int length)
 452 {
 453     opcode_t*op = opcode_get(c->opcode);
 454     char*p = op->params;
 455     int pos = 0;
 456     int len = 0;
 457
 458     if(tag)
 459         swf_SetU8(tag, c->opcode);
 460     len++;
 461
 462     while(*p) {
 463         void*data = c->data[pos++];
 464         assert(pos<=2);
 465         if(*p == 'n') { // number
 466             len += swf_SetU30(tag, (ptroff_t)data);
 467         } else if(*p == '2') { //multiname
 468             multiname_t*m = (multiname_t*)data;
 469             len += swf_SetU30(tag, pool_register_multiname(pool, m));
 470         } else if(*p == 'm') { //method
 471             abc_method_t*m = (abc_method_t*)data;
 472             len += swf_SetU30(tag, m->index);
 473         } else if(*p == 'c') { //classinfo
 474             abc_class_t*cls = (abc_class_t*)data;
 475             len += swf_SetU30(tag, cls->index);
 476         } else if(*p == 'i') { //methodbody
 477             abc_method_body_t*m = (abc_method_body_t*)data;
 478             len += swf_SetU30(tag, m->index);
 479         } else if(*p == 'I') { // int
 480             len += swf_SetU30(tag, pool_register_int(pool, (ptroff_t)data));
 481         } else if(*p == 'U') { // uint
 482             len += swf_SetU30(tag, pool_register_uint(pool, (ptroff_t)data));
 483         } else if(*p == 'f') { //  float
 484             len += swf_SetU30(tag, pool_register_float(pool, *(double*)data));
 485         } else if(*p == 'u') { // integer
 486             len += swf_SetU30(tag, (ptroff_t)data);
 487         } else if(*p == 'r') { // integer
 488             len += swf_SetU30(tag, (ptroff_t)data);
 489         } else if(*p == 'b') { // byte
 490             if(tag)
 491                 swf_SetU8(tag, (ptroff_t)data);
 492             len++;
 493         } else if(*p == 'j') { // jump
 494             int skip = length-c->pos-4;
 495             if(c->branch)
 496                 skip = (c->branch->pos) - c->pos - 4;
 497             len += swf_SetS24(tag, skip);
 498         } else if(*p == 's') { // string
 499             int index = pool_register_string2(pool, (string_t*)data);
 500             len += swf_SetU30(tag, index);
 501         } else if(*p == 'D') { // debug statement
 502             if(tag)
 503                 swf_SetU8(tag, 1);
 504             len++;
 505             len+=swf_SetU30(tag, pool_register_string(pool,c->data[0]));
 506             if(tag)
 507                 swf_SetU8(tag, (ptroff_t)c->data[1]);
 508             len++;
 509             len+=swf_SetU30(tag, 0);
 510         } else if(*p == 'S') { // switch statement
 511             lookupswitch_t*l = (lookupswitch_t*)data;
 512             int offset = 0;
 513             len+=swf_SetS24(tag, l->def->pos-c->pos+offset); //default
 514             code_list_t*t = l->targets;
 515             if(list_length(t)) {
 516                 len+=swf_SetU30(tag, list_length(t)-1); //nr-1
 517                 code_list_t*t = l->targets;
 518                 while(t) {
 519                     len+=swf_SetS24(tag, t->code->pos - c->pos+offset);
 520                     t = t->next;
 521                 }
 522             } else {
 523                 len+=swf_SetU30(tag, 0); //nr-1
 524                 len+=swf_SetS24(tag, l->def->pos-c->pos+offset);
 525             }
 526         } else {
 527             printf("Can't parse opcode param type \"%c\"\n", *p);
 528         }
 529         p++;
 530     }
 531     return len;
 532 }
 533
 534 void code_write(TAG*tag, code_t*code, pool_t*pool, abc_file_t*file)
 535 {
 536     code = code_find_start(code);
 537     int pos = 0;
 538     int length = 0;
 539     code_t*c = code;
 540     while(c) {
 541         c->pos = pos;
 542         pos += opcode_write(0, c, pool, file, 0);
 543         c = c->next;
 544     }
 545     length = pos;
 546     swf_SetU30(tag, pos);
 547     int start = tag->len;
 548     c = code;
 549     pos = 0;
 550     while(c) {
 551         opcode_t*op = opcode_get(code->opcode);
 552         if(op->flags&(OP_BRANCH|OP_JUMP)) {
 553             int skip = 0;
 554         }
 555         pos += opcode_write(tag, c, pool, file, length);
 556         c = c->next;
 557     }
 558     assert(tag->len - start == pos);
 559 }
 560
 561 typedef struct {
 562     int stackpos;
 563     int scopepos;
 564     code_t*code;
 565     char flags;
 566     char error;
 567 } stackpos_t;
 568
 569 typedef struct {
 570     stackpos_t*stack;
 571     int num;
 572     int maxlocal;
 573     int maxstack;
 574     int maxscope;
 575     int flags;
 576 } currentstats_t;
 577
 578 static int stack_minus(code_t*c)
 579 {
 580     opcode_t*op = opcode_get(c->opcode);
 581     if(op->stack_minus>0) {
 582         fprintf(stderr, "Invalid opcode entry %02x %s\n", c->opcode, op->name);
 583     }
 584     int stack = op->stack_minus;
 585     if(op->flags&OP_STACK_NS) {
 586         multiname_t*m = (multiname_t*)c->data[0];
 587         if(multiname_late_namespace(m))
 588             stack--;
 589         if(multiname_late_name(m))
 590             stack--;
 591     }
 592     if(op->flags&OP_STACK_ARGS || op->flags&OP_STACK_ARGS2) {
 593         assert(strchr(op->params, 'n'));
 594         int nr = (ptroff_t)(op->params[0]=='n'?c->data[0]:c->data[1]);
 595         stack-=nr;
 596         if(op->flags&OP_STACK_ARGS2)
 597             stack-=nr;
 598     }
 599     return stack;
 600 }
 601 static void handleregister(currentstats_t*stats, int reg)
 602 {
 603     if(reg+1 > stats->maxlocal)
 604         stats->maxlocal = reg+1;
 605 }
 606
 607 #define FLAG_SEEN 1
 608 #define FLAG_ERROR 2
 609
 610 static void dumpstack(currentstats_t*stats)
 611 {
 612     int t;
 613     for(t=0;t<stats->num;t++) {
 614         code_t*c = stats->stack[t].code;
 615         opcode_t*op = opcode_get(c->opcode);
 616         printf("%5d) %c %d:%d %s", t, (stats->stack[t].flags&FLAG_SEEN)?'x':'|',
 617                                stats->stack[t].stackpos,
 618                                stats->stack[t].scopepos,
 619                                op->name);
 620
 621         if(op->flags&(OP_BRANCH|OP_JUMP)) {
 622             if(c->branch)
 623                 printf(" ->%d\n", c->branch->pos);
 624             else
 625                 printf(" 00000000\n");
 626         }
 627         if(op->params[0]=='2') {
 628             printf(" %s", multiname_tostring(c->data[0]));
 629         }
 630         printf("\n");
 631     }
 632 }
 633
 634 static char callcode(currentstats_t*stats, int pos, int stack, int scope)
 635 {
 636     while(pos<stats->num) {
 637         if(stats->stack[pos].flags&FLAG_SEEN) {
 638             if(stats->stack[pos].stackpos != stack ||
 639                stats->stack[pos].scopepos != scope) {
 640                 //dumpstack(stats);
 641                 stats->stack[pos].flags |= FLAG_ERROR;
 642                 fprintf(stderr, "Stack mismatch at pos %d\n", pos);
 643                 fprintf(stderr, "Should be: %d:%d, is: %d:%d\n", stack, scope,
 644                     stats->stack[pos].stackpos, stats->stack[pos].scopepos);
 645
 646                 /* return error here if we do verification */
 647                 //return 0;
 648             }
 649             return 1;
 650         }
 651
 652         stats->stack[pos].flags |= FLAG_SEEN;
 653         stats->stack[pos].stackpos = stack;
 654         stats->stack[pos].scopepos = scope;
 655
 656         code_t*c = stats->stack[pos].code;
 657         opcode_t*op = opcode_get(c->opcode);
 658
 659         //printf("Walking %s at position %d, stack=%d, scope=%d\n", op->name, pos, stack, scope);
 660
 661         stack += stack_minus(c);
 662
 663         if(stack<0) {
 664             stats->stack[pos].flags |= FLAG_ERROR;
 665             fprintf(stderr, "error: stack underflow at %d (%s)\n", pos, op->name);
 666
 667             /* if we would do true verification (if we would be a vm), this is
 668                where we would return the error
 669                return 0;
 670              */
 671         }
 672
 673         stack += op->stack_plus;
 674         scope += op->scope_stack_plus;
 675
 676         if(stack > stats->maxstack)
 677             stats->maxstack = stack;
 678         if(scope > stats->maxscope)
 679             stats->maxscope = scope;
 680
 681         if(op->flags & OP_SET_DXNS)
 682             stats->flags |= FLAGS_SET_DXNS;
 683         if(op->flags & OP_NEED_ACTIVATION)
 684             stats->flags |= FLAGS_ACTIVATION;
 685
 686         if(c->opcode == OPCODE_NEWCLASS) {
 687             abc_class_t*cls = (abc_class_t*)(c->data[0]);
 688             if(scope > cls->init_scope_depth)
 689                 cls->init_scope_depth = scope;
 690         }
 691         if(c->opcode == OPCODE_NEWFUNCTION) {
 692             abc_method_t*m = (abc_method_t*)(c->data[0]);
 693             if(m->body && scope > m->body->init_scope_depth)
 694                 m->body->init_scope_depth = scope;
 695         }
 696
 697         if(op->flags & OP_REGISTER) {
 698             char*p = op->params;
 699             int pos = 0;
 700             char ok=0;
 701             while(*p) {
 702                 if(*p=='r') {
 703                     handleregister(stats, (ptroff_t)c->data[pos]);
 704                     ok = 1;
 705                 }
 706                 p++;
 707             }
 708             if(!ok) {
 709                 handleregister(stats, c->opcode&3);
 710             }
 711         }
 712         if(op->flags&OP_RETURN) {
 713             if(OP_RETURN==0x48/*returnvalue*/) {
 714                 if(stack!=1) {
 715                     stats->stack[pos].flags |= FLAG_ERROR;
 716                     fprintf(stderr, "return(value) with stackposition %d\n", stack);
 717                 }
 718             } else if(OP_RETURN==0x47) {
 719                 if(stack!=0) {
 720                     stats->stack[pos].flags |= FLAG_ERROR;
 721                     fprintf(stderr, "return(void) with stackposition %d\n", stack);
 722                 }
 723             }
 724         }
 725         if(op->flags & (OP_THROW|OP_RETURN))
 726             return 1;
 727         if(op->flags & OP_JUMP) {
 728             if(!c->branch) {
 729                 stats->stack[pos].flags |= FLAG_ERROR;
 730                 fprintf(stderr, "Error: Invalid jump target in instruction %s at position %d.\n", op->name, pos);
 731                 return 0;
 732             }
 733             c = c->branch;
 734             pos = c->pos;
 735             continue;
 736         }
 737         if(op->flags & OP_BRANCH) {
 738             if(!c->branch) {
 739                 stats->stack[pos].flags |= FLAG_ERROR;
 740                 fprintf(stderr, "Error: Invalid jump target in instruction %s at position %d\n", op->name, pos);
 741                 return 0;
 742             }
 743             int newpos = c->branch->pos;
 744             if(!callcode(stats, newpos, stack, scope))
 745                 return 0;
 746         }
 747         if(op->flags & OP_LOOKUPSWITCH) {
 748             lookupswitch_t*l = c->data[0];
 749             if(!l->def) {
 750                 stats->stack[pos].flags |= FLAG_ERROR;
 751                 fprintf(stderr, "Error: Invalid jump target in instruction %s at position %d\n", op->name, pos);
 752                 return 0;
 753             }
 754             if(!callcode(stats, l->def->pos, stack, scope))
 755                 return 0;
 756             code_list_t*t = l->targets;
 757             while(t) {
 758                 if(!t->code) {
 759                     stats->stack[pos].flags |= FLAG_ERROR;
 760                     fprintf(stderr, "Error: Invalid jump target in instruction %s at position %d\n", op->name, pos);
 761                     return 0;
 762                 }
 763                 if(!callcode(stats, t->code->pos, stack, scope))
 764                     return 0;
 765                 t = t->next;
 766             }
 767         }
 768
 769         pos++;
 770         if(pos<stats->num) {
 771             assert(c->next == stats->stack[pos].code);
 772         }
 773     }
 774     return 1;
 775 }
 776
 777 static currentstats_t* code_get_stats(code_t*code, abc_exception_list_t*exceptions)
 778 {
 779     code = code_find_start(code);
 780     int num = 0;
 781     code_t*c = code;
 782     while(c) {
 783         num++;
 784         c = c->next;
 785     }
 786     currentstats_t* current = malloc(sizeof(currentstats_t));
 787     current->stack = rfx_calloc(sizeof(stackpos_t)*num);
 788     current->maxlocal = 0;
 789     current->maxstack = 0;
 790     current->maxscope = 0;
 791     current->num = num;
 792     current->flags = 0;
 793
 794 //#define DEBUG_BYTES
 795 #ifdef DEBUG_BYTES
 796     int t;
 797     c = code;
 798     for(t=0;t<num;t++) {
 799         opcode_t*op = opcode_get(c->opcode);
 800         if(op->flags & (OP_JUMP|OP_BRANCH)) {
 801             printf("%5d) %s %08x\n", t, op->name, c->branch);
 802         } else if(op->params[0]=='2') {
 803             printf("%5d) %s %s\n", t, op->name, multiname_tostring(c->data[0]));
 804         } else {
 805             printf("%5d) %s\n", t, op->name);
 806         }
 807         c = c->next;
 808     }
 809     //printf("%5d) %02x\n", t, tag->data[start+t]);
 810 #endif
 811
 812     num = 0;
 813     c = code;
 814     while(c) {
 815         //crosslink
 816         current->stack[num].code = c;
 817         c->pos = num;
 818         num++;
 819         c = c->next;
 820     }
 821
 822     if(!callcode(current, 0, 0, 0)) {
 823         free(current);
 824         return 0;
 825     }
 826     abc_exception_list_t*e = exceptions;
 827     while(e) {
 828         if(e->abc_exception->target)
 829             callcode(current, e->abc_exception->target->pos, 1, 0);
 830         e = e->next;
 831     }
 832
 833     return current;
 834 }
 835
 836 void stats_free(currentstats_t*stats)
 837 {
 838     if(stats) {
 839         free(stats->stack);stats->stack=0;
 840         free(stats);
 841     }
 842 }
 843
 844 int code_dump(code_t*c, abc_exception_list_t*exceptions, abc_file_t*file, char*prefix, FILE*fo)
 845 {
 846     abc_exception_list_t*e = exceptions;
 847     c = code_find_start(c);
 848     currentstats_t*stats =  code_get_stats(c, exceptions);
 849
 850     int pos = 0;
 851     while(c) {
 852         U8 opcode = c->opcode;
 853         char found = 0;
 854         opcode_t*op = opcode_get(opcode);
 855
 856         e = exceptions;
 857         while(e) {
 858             if(c==e->abc_exception->from)
 859                 fprintf(fo, "%s   TRY {\n", prefix);
 860             if(c==e->abc_exception->target) {
 861                 char*s1 = multiname_tostring(e->abc_exception->exc_type);
 862                 char*s2 = multiname_tostring(e->abc_exception->var_name);
 863                 fprintf(fo, "%s   CATCH(%s %s)\n", prefix, s1, s2);
 864                 free(s1);
 865                 free(s2);
 866             }
 867             e = e->next;
 868         }
 869
 870         if(!op) {
 871             fprintf(stderr, "Can't parse opcode %02x.\n", opcode);
 872             return 0;
 873         } else {
 874             char*p = op->params;
 875             char first = 1;
 876             int i=0;
 877
 878             if(stats) {
 879                 int f = stats->stack[c->pos].flags;
 880                 fprintf(fo, "%s%5d) %c %d:%d %s ", prefix, c->pos,
 881                                        (f&FLAG_ERROR)?'E':((f&FLAG_SEEN)?'+':'|'),
 882                                        stats->stack[c->pos].stackpos,
 883                                        stats->stack[c->pos].scopepos,
 884                                        op->name);
 885             } else {
 886                 fprintf(fo, "%s%5d) ? ?:? %s ", prefix, c->pos, op->name);
 887             }
 888
 889             while(*p) {
 890                 void*data = c->data[i];
 891                 if(i>0)
 892                     printf(", ");
 893
 894                 if(*p == 'n') {
 895                     int n = (ptroff_t)data;
 896                     fprintf(fo, "%d params", n);
 897                 } else if(*p == '2') {
 898                     multiname_t*n = (multiname_t*)data;
 899                     char* m = multiname_tostring(n);
 900                     fprintf(fo, "%s", m);
 901                     free(m);
 902                 } else if(*p == 'm') {
 903                     abc_method_t*m = (abc_method_t*)data;
 904                     fprintf(fo, "[method %s]", m->name);
 905                 } else if(*p == 'c') {
 906                     abc_class_t*cls = (abc_class_t*)data;
 907                     char*classname = multiname_tostring(cls->classname);
 908                     fprintf(fo, "[classinfo %s]", classname);
 909                     free(classname);
 910                 } else if(*p == 'i') {
 911                     abc_method_body_t*b = (abc_method_body_t*)data;
 912                     fprintf(fo, "[methodbody]");
 913                 } else if(*p == 'u' || *p == 'I' || *p == 'U') {
 914                     int n = (ptroff_t)data;
 915                     fprintf(fo, "%d", n);
 916                 } else if(*p == 'f') {
 917                     double f = *(double*)data;
 918                     fprintf(fo, "%f", f);
 919                 } else if(*p == 'r') {
 920                     int n = (ptroff_t)data;
 921                     fprintf(fo, "r%d", n);
 922                 } else if(*p == 'b') {
 923                     int b = (ptroff_t)data;
 924                     fprintf(fo, "%02x", b);
 925                 } else if(*p == 'j') {
 926                     if(c->branch)
 927                         fprintf(fo, "->%d", c->branch->pos);
 928                     else
 929                         fprintf(fo, "%08x", c->branch);
 930                 } else if(*p == 's') {
 931                     char*s = string_escape((string_t*)data);
 932                     fprintf(fo, "\"%s\"", s);
 933                     free(s);
 934                 } else if(*p == 'D') {
 935                     fprintf(fo, "[register %02x=%s]", (ptroff_t)c->data[1], (char*)c->data[0]);
 936                 } else if(*p == 'S') {
 937                     lookupswitch_t*l = c->data[0];
 938                     fprintf(fo, "[");
 939                     if(l->def)
 940                         fprintf(fo, "default->%d", l->def->pos);
 941                     else
 942                         fprintf(fo, "default->00000000", l->def->pos);
 943                     code_list_t*t = l->targets;
 944                     while(t) {
 945                         if(t->code)
 946                             fprintf(fo, ",->%d", t->code->pos);
 947                         else
 948                             fprintf(fo, ",->00000000");
 949                         t = t->next;
 950                     }
 951                     fprintf(fo, "]");
 952                 } else {
 953                     fprintf(stderr, "Can't parse opcode param type \"%c\"\n", *p);
 954                     return 0;
 955                 }
 956                 p++;
 957                 i++;
 958                 first = 0;
 959             }
 960             fprintf(fo, "\n");
 961         }
 962
 963         e = exceptions;
 964         while(e) {
 965             if(c==e->abc_exception->to) {
 966                 if(e->abc_exception->target)
 967                     fprintf(fo, "%s   } // END TRY (HANDLER: %d)\n", prefix, e->abc_exception->target->pos);
 968                 else
 969                     fprintf(fo, "%s   } // END TRY (HANDLER: 00000000)\n", prefix);
 970             }
 971             e = e->next;
 972         }
 973
 974         pos++;
 975         c = c->next;
 976     }
 977     stats_free(stats);
 978     return 1;
 979 }
 980
 981 codestats_t* code_get_statistics(code_t*code, abc_exception_list_t*exceptions)
 982 {
 983     currentstats_t*current = code_get_stats(code, exceptions);
 984     if(!current)
 985         return 0;
 986     codestats_t*stats = rfx_calloc(sizeof(codestats_t));
 987     stats->local_count = current->maxlocal;
 988     stats->max_stack = current->maxstack;
 989     stats->max_scope_depth = current->maxscope;
 990     stats->flags = current->flags;
 991
 992     stats_free(current);current=0;
 993     return stats;
 994 }
 995
 996 void codestats_free(codestats_t*s)
 997 {
 998     free(s);
 999 }
1000
1001 code_t* add_opcode(code_t*atag, U8 op)
1002 {
1003     code_t*tmp = (code_t*)rfx_calloc(sizeof(code_t));
1004     tmp->opcode = op;
1005     tmp->next = 0;
1006     if(atag) {
1007         tmp->prev = atag;
1008         tmp->next = atag->next;
1009         atag->next = tmp;
1010     } else {
1011         tmp->prev = 0;
1012     }
1013     return tmp;
1014 }
1015
1016 void codestats_print(codestats_t*stats)
1017 {
1018     printf("max_stack: %d\n", stats->max_stack);
1019     printf("local_count: %d\n", stats->local_count);
1020     printf("scope_depth: %d\n", stats->max_scope_depth);
1021 }
1022
1023 code_t* code_end(code_t*code)
1024 {
1025     if(!code)
1026         return 0;
1027     while(code->next)
1028         code = code->next;
1029     return code;
1030 }
1031
1032 code_t* code_append(code_t*code, code_t*toappend)
1033 {
1034     if(!code)
1035         return code_end(toappend);
1036     if(!toappend)
1037         return code_end(code);
1038     //find end of first list
1039     while(code->next) {
1040         code = code->next;
1041     }
1042     code_t*start=toappend;
1043     //and start of second list
1044     while(start->prev) {
1045         start = start->prev;
1046     }
1047     code->next = start;
1048     start->prev = code;
1049     return code_end(toappend);
1050 }
1051
1052 lookupswitch_t*lookupswitch_dup(lookupswitch_t*l)
1053 {
1054     lookupswitch_t*n = malloc(sizeof(lookupswitch_t));
1055     fprintf(stderr, "Error: lookupswitch dupping not supported yet\n");
1056     n->targets = list_clone(l->targets);
1057     return 0;
1058 }
1059
1060 code_t*code_dup(code_t*c)
1061 {
1062     if(!c) return 0;
1063
1064     while(c->prev) c = c->prev;
1065
1066     code_t*last = 0;
1067     while(c) {
1068         NEW(code_t, n);
1069         memcpy(n, c, sizeof(code_t));
1070
1071         opcode_t*op = opcode_get(c->opcode);
1072         if(c->branch) {
1073             fprintf(stderr, "Error: Can't duplicate branching code\n");
1074             return 0;
1075         }
1076         char*p = op?op->params:"";
1077         int pos=0;
1078         while(*p) {
1079             if(*p == '2') { //multiname
1080                 c->data[pos] = multiname_clone(c->data[pos]);
1081             } else if(*p == 's') {
1082                 c->data[pos] = string_dup3(c->data[pos]);
1083             } else if(*p == 'D') {
1084                 c->data[pos] = strdup(c->data[pos]);
1085             } else if(*p == 'f') {
1086                 double old = *(double*)c->data[pos];
1087                 c->data[pos] = malloc(sizeof(double));
1088                 *(double*)c->data[pos] = old;
1089             } else if(strchr("S", *p)) {
1090                 c->data[pos] = lookupswitch_dup(c->data[pos]);
1091             }
1092             p++;pos++;
1093         }
1094
1095         n->prev = last;
1096         if(last) {
1097             last->next = n;
1098         }
1099         last = n;
1100         c = c->next;
1101     }
1102     return last;
1103 }
1104
1105 code_t*code_cutlast(code_t*c)
1106 {
1107     if(!c) return c;
1108     assert(!c->next);
1109     code_t*prev = c->prev;
1110     c->prev = 0;
1111     if(prev)
1112         prev->next=0;
1113     code_free(c);
1114     return prev;
1115 }
1116
1117 code_t* cut_last_push(code_t*c)
1118 {
1119     while(c) {
1120         if(!c) break;
1121         opcode_t*op = opcode_get(c->opcode);
1122         /* cut conversion type operations */
1123         if(op->stack_minus == -1 && op->stack_plus == 1 && !(op->flags)) {
1124             c = code_cutlast(c);
1125             continue;
1126         }
1127         /* cut any type of push */
1128         else if(op->stack_minus == 0 && op->stack_plus == 1 && !(op->flags)) {
1129             return code_cutlast(c);
1130         }
1131         /* cut register lookups */
1132         else if(c->opcode == OPCODE_GETLOCAL ||
1133            c->opcode == OPCODE_GETLOCAL_0 ||
1134            c->opcode == OPCODE_GETLOCAL_1 ||
1135            c->opcode == OPCODE_GETLOCAL_2 ||
1136            c->opcode == OPCODE_GETLOCAL_3) {
1137             return code_cutlast(c);
1138         }
1139         /* discard function call values */
1140         else if(c->opcode == OPCODE_CALLPROPERTY) {
1141             c->opcode = OPCODE_CALLPROPVOID;
1142             return c;
1143         } else if(c->opcode == OPCODE_CALLSUPER) {
1144             c->opcode = OPCODE_CALLSUPERVOID;
1145             return c;
1146         }
1147         else
1148             break;
1149     }
1150     c = abc_pop(c);
1151     return c;
1152 }
1153
1154