Edgewall Software

Ticket #7715: 7715-mergeinfo-fast-r8263.patch

File 7715-mergeinfo-fast-r8263.patch, 12.9 KB (added by rblank, 3 years ago)

Faster retrieval of eligible revisions

  • trac/htdocs/css/browser.css

    diff --git a/trac/htdocs/css/browser.css b/trac/htdocs/css/browser.css
    a b  
    174174 margin: 0 0 .4em 1.6em; 
    175175 padding: 0; 
    176176} 
    177 #info .props li { padding: 0; overflow: auto; } 
     177#info .props > li { padding: 2px 0; overflow: auto; } 
    178178 
    179179/* Styles for the HTML preview */ 
    180180#preview { background: #fff; clear: both; margin: 0 } 
  • trac/util/__init__.py

    diff --git a/trac/util/__init__.py b/trac/util/__init__.py
    a b  
    542542        else: 
    543543            return 0 
    544544 
     545def to_ranges(revs): 
     546    """Converts a list of revisions to a minimal set of ranges. 
     547     
     548    >>> to_ranges([2, 12, 3, 6, 9, 1, 5, 11]) 
     549    '1-3,5-6,9,11-12' 
     550    >>> to_ranges([]) 
     551    '' 
     552    """ 
     553    ranges = [] 
     554    begin = end = None 
     555    def store(): 
     556        if end == begin: 
     557            ranges.append(str(begin)) 
     558        else: 
     559            ranges.append('%d-%d' % (begin, end)) 
     560    for rev in sorted(revs): 
     561        if begin is None: 
     562            begin = end = rev 
     563        elif rev == end + 1: 
     564            end = rev 
     565        else: 
     566            store() 
     567            begin = end = rev 
     568    if begin is not None: 
     569        store() 
     570    return ','.join(ranges) 
     571 
    545572def content_disposition(type, filename=None): 
    546573    """Generate a properly escaped Content-Disposition header""" 
    547574    if filename is not None: 
  • trac/versioncontrol/svn_fs.py

    diff --git a/trac/versioncontrol/svn_fs.py b/trac/versioncontrol/svn_fs.py
    a b  
    6060from trac.versioncontrol.cache import CachedRepository 
    6161from trac.versioncontrol.svn_authz import SubversionAuthorizer 
    6262from trac.versioncontrol.web_ui.browser import IPropertyRenderer 
    63 from trac.util import embedded_numbers 
     63from trac.versioncontrol.web_ui.changeset import IPropertyDiffRenderer 
     64from trac.util import Ranges, embedded_numbers, to_ranges 
    6465from trac.util.text import exception_to_unicode, to_unicode 
    65 from trac.util.translation import _ 
     66from trac.util.translation import _, tag_ 
    6667from trac.util.datefmt import utc 
    6768 
    6869 
     
    308309 
    309310 
    310311class SubversionPropertyRenderer(Component): 
    311     implements(IPropertyRenderer) 
     312    implements(IPropertyRenderer, IPropertyDiffRenderer) 
    312313 
    313314    def __init__(self): 
    314315        self._externals_map = {} 
     
    323324        if name == 'svn:externals': 
    324325            return self._render_externals(props[name]) 
    325326        elif name == 'svn:mergeinfo' or name.startswith('svnmerge-'): 
    326             return self._render_mergeinfo(props[name]) 
     327            return self._render_mergeinfo(name, mode, context, props) 
    327328        elif name == 'svn:needs-lock': 
    328329            return self._render_needslock(context) 
    329330 
     
    389390        return tag.ul([tag.li(tag.a(label, href=href, title=title)) 
    390391                       for label, href, title in externals_data]) 
    391392 
    392     def _render_mergeinfo(self, prop): 
    393         prop = prop.rsplit(':', 1) 
    394         if len(prop) == 2: 
    395             prop[1] = prop[1].replace(',', u',\u200b') 
    396         return ':'.join(prop) 
     393    def _get_blocked_revs(self, props, name, path): 
     394        """Return the revisions blocked from merging for the given property 
     395        name and path. 
     396        """ 
     397        if name == 'svnmerge-integrated': 
     398            prop = props.get('svnmerge-blocked', '') 
     399        else: 
     400            return "" 
     401        for line in prop.splitlines(): 
     402            try: 
     403                p, revs = line.split(':', 1) 
     404                if p.strip('/') == path: 
     405                    return revs 
     406            except Exception: 
     407                pass 
     408        return "" 
    397409 
     410    def _get_node_revs_ref(self, repos, path, version): 
     411        node = repos.get_node(path, version) 
     412        for (p, rev, chg) in node.get_history(): 
     413            if p != path: 
     414                break 
     415            yield rev 
     416     
     417    def _get_node_revs(self, repos, path, version): 
     418        node = repos.get_node(path, version)    # Ensure node exists 
     419        db = self.env.get_db_cnx() 
     420        cursor = db.cursor() 
     421        cursor.execute("SELECT DISTINCT rev FROM node_change " 
     422                       "WHERE (path = %%s OR path %s) " 
     423                       "  AND %s <= %%s" % (db.like(), db.cast('rev', 'int')), 
     424                       (path, db.like_escape(path + '/') + '%', version)) 
     425        revs = list(int(row[0]) for row in cursor) 
     426        revs.sort() 
     427        cursor.execute("SELECT rev FROM node_change " 
     428                       "WHERE path = %%s " 
     429                       "  AND change_type IN ('A', 'C', 'M') " 
     430                       "  AND %s <= %%s " 
     431                       "ORDER BY %s DESC " 
     432                       "LIMIT 1" % ((db.cast('rev', 'int'),) * 2), 
     433                       (path, version)) 
     434        created = 0 
     435        for row in cursor: 
     436            created = int(row[0]) 
     437        import bisect 
     438        return revs[bisect.bisect_left(revs, created):] 
     439         
     440    def _render_mergeinfo(self, name, mode, context, props): 
     441        """Parse svn:mergeinfo and svnmerge-* properties, converting branch 
     442        names to links and providing links to the revision log for merged 
     443        and eligible revisions. 
     444        """ 
     445        has_eligible = name in ('svnmerge-integrated', 'svn:mergeinfo') 
     446        revs_label = (_('merged'), _('blocked'))[name.endswith('blocked')] 
     447        repos = self.env.get_repository() 
     448        rows = [] 
     449        for line in props[name].splitlines(): 
     450            try: 
     451                path, revs = line.split(':', 1) 
     452                spath = path.strip('/') 
     453                revs = revs.strip() 
     454                if 'LOG_VIEW' in context.perm('source', spath): 
     455                    row = [tag.a(path, title=_('View dir'), 
     456                                 href=context.href.browser(spath, 
     457                                                rev=context.resource.version))] 
     458                    row.append(self._get_revs_link(revs_label, context, spath, 
     459                                                   revs)) 
     460                    if has_eligible: 
     461                        t = time.time() 
     462                        eligible = set(self._get_node_revs(repos, spath, 
     463                                                    context.resource.version)) 
     464                        t = time.time() - t 
     465                        t_ref = time.time() 
     466                        eligible_ref = set(self._get_node_revs_ref(repos, spath, 
     467                                                    context.resource.version)) 
     468                        t_ref = time.time() - t_ref 
     469                        eligible_error = eligible ^ eligible_ref 
     470                        eligible -= set(Ranges(revs)) 
     471                        blocked = self._get_blocked_revs(props, name, spath) 
     472                        eligible -= set(Ranges(blocked)) 
     473                        if eligible: 
     474                            eligible = to_ranges(eligible) 
     475                            row.append(tag.a(_('eligible'), 
     476                                       title=eligible.replace(',', ', '), 
     477                                       href=context.href.log(spath, 
     478                                                             revs=eligible))) 
     479                        else: 
     480                            row.append(tag.span(_('eligible'), 
     481                                       title=_('No eligible revisions'))) 
     482                        row.append(tag("(time=%.3f, time_ref=%.3f, error: %s)" 
     483                                       % (t, t_ref, ", ".join(str(rev) 
     484                                                  for rev in eligible_error)))) 
     485                    rows.append(tag.td(each) for each in row) 
     486                else: 
     487                    revs = revs.replace(',', u',\u200b') 
     488                    rows.append(tag.td(path), 
     489                                tag.td(revs, 
     490                                       colspan=has_eligible and 2 or None)) 
     491            except Exception, e: 
     492                self.log.warning('Rendering of property %s failed: %s', name, 
     493                                 exception_to_unicode(e)) 
     494                rows.append(tag.td(line, colspan=has_eligible and 3 or 2)) 
     495        return tag.div(tag.table(tag.tbody(tag.tr(each) for each in rows))) 
     496     
     497    def _get_revs_link(self, label, context, spath, revs): 
     498        if not revs: 
     499            return tag.span(label, title=_('No revisions')) 
     500        elif ',' in revs or '-' in revs: 
     501            revs_href = context.href.log(spath, revs=revs) 
     502        else: 
     503            revs_href = context.href.changeset(revs, spath) 
     504        return tag.a(label, title=revs.replace(',', ', '), href=revs_href) 
     505     
    398506    def _render_needslock(self, context): 
    399507        return tag.img(src=context.href.chrome('common/lock-locked.png'), 
    400508                       alt="needs lock", title="needs lock") 
    401509 
     510    # IPropertyDiffRenderer methods 
     511 
     512    def match_property_diff(self, name): 
     513        return (name == 'svn:mergeinfo' or name.startswith('svnmerge-')) and \ 
     514                4 or 0 
     515 
     516    def render_property_diff(self, name, old_context, old_props, 
     517                             new_context, new_props, options): 
     518        # build 3 columns table showing modifications on merge sources 
     519        # || source (added|modified|removed) || added revs || removed revs || 
     520        def parse_sources(props): 
     521            sources = {} 
     522            for line in props[name].splitlines(): 
     523                path, revs = line.split(':', 1) 
     524                spath = path.strip('/') 
     525                revs = revs.strip() 
     526                sources[spath] = set(Ranges(revs)) 
     527            return sources 
     528        old_sources = parse_sources(old_props) 
     529        new_sources = parse_sources(new_props) 
     530        # go through new sources, detect modified ones or added ones 
     531        blocked = name.endswith('blocked') 
     532        added_label = [_('merged: '), _('blocked: ')][blocked] 
     533        removed_lable = [_('un-merged: '), _('un-blocked: ')][blocked] 
     534        def revs_link(revs, context): 
     535            if revs: 
     536                revs = to_ranges(revs) 
     537                return self._get_revs_link(revs.replace(',', u',\u200b'), 
     538                                           context, spath, revs) 
     539        modified_and_added_sources = [] 
     540        for spath, new_revs in new_sources.iteritems(): 
     541            if spath in old_sources: 
     542                old_revs = old_sources.pop(spath) 
     543                status = None 
     544            else: 
     545                old_revs = set() 
     546                status = _(' (added)') 
     547            source_href = new_context.href.browser(spath, 
     548                                              rev=new_context.resource.version) 
     549            added = revs_link(new_revs - old_revs, new_context) 
     550            removed = revs_link(old_revs - new_revs, old_context) 
     551            if added or removed: 
     552                modified_and_added_sources.append([ 
     553                    [tag.a(spath, title=_('View dir'), href=source_href), 
     554                     status], 
     555                    added and tag(added_label, added), 
     556                    removed and tag(removed_label, removed)])  
     557        # go through remaining old sources, those were deleted 
     558        removed_sources = [] 
     559        for spath, old_revs in old_sources.iteritems(): 
     560            removed_sources.append( 
     561                    tag.a(_("Source %(source)s removed", source=spath), 
     562                           title=_('View dir'), 
     563                           href=old_context.href.browser(spath, 
     564                                            rev=old_context.resource.version))) 
     565        return tag.li(tag_("Property %(prop)s changed", prop=tag.strong(name)), 
     566                tag.table(tag.tbody( 
     567                    [tag.tr(tag.td(dir), tag.td(added), tag.td(removed)) 
     568                     for dir, added, removed in modified_and_added_sources], 
     569                    [tag.tr(tag.td(dir, colspan=3))  
     570                     for dir in removed_sources]), class_='props')) 
     571 
    402572 
    403573class SubversionRepository(Repository): 
    404574    """Repository implementation based on the svn.fs API.""" 
     
    734904 
    735905class SubversionNode(Node): 
    736906 
    737     def __init__(self, path, rev, repos, pool=None, parent=None): 
     907    def __init__(self, path, rev, repos, pool=None, parent_root=None): 
    738908        self.repos = repos 
    739909        self.fs_ptr = repos.fs_ptr 
    740910        self.authz = repos.authz 
     
    744914        self._requested_rev = rev 
    745915        pool = self.pool() 
    746916 
    747         if parent and parent._requested_rev == self._requested_rev: 
    748             self.root = parent.root 
     917        if parent_root: 
     918            self.root = parent_root 
    749919        else: 
    750920            self.root = fs.revision_root(self.fs_ptr, rev, self.pool()) 
    751921        node_type = fs.check_path(self.root, self._scoped_path_utf8, pool) 
     
    791961                                                            path.strip('/'))): 
    792962                continue 
    793963            yield SubversionNode(path, self._requested_rev, self.repos, 
    794                                  self.pool, self) 
     964                                 self.pool, self.root) 
    795965 
    796966    def get_history(self, limit=None): 
    797967        newer = None # 'newer' is the previously seen history tuple